Gates: la IA ya ha cruzado los umbrales de peligro y nadie fuera de la industria lo discute

Bill Gates ya no se muerde la lengua. En un ensayo publicado este martes, el cofundador de Microsoft asegura que la inteligencia artificial ha cruzado ya los umbrales de peligro que la propia industria se había fijado como límites, y que la sociedad no está reaccionando. "Estoy atónito por la falta de preocupación y debate fuera de la industria", ha dicho en una entrevista con MIT Technology Review, donde ha detallado su manifiesto, el primero de varios que tiene planeados sobre este asunto.

Gates, de 70 años, se ha convertido en una voz deliberadamente "chillona" para intentar despertar conciencias. Su lista de motivos es larga: capacidades biológicas, ciberataques, efectos psicosociales, destrucción de empleo y, cada vez más, pérdida de control sobre los propios sistemas. Pero hay un punto que le quita el sueño especialmente: el bioterrorismo. "Cualquier modelo que pueda crear moléculas nuevas debería ser vigilado", afirma. Y lanza una cifra que da que pensar: el riesgo de bioterrorismo le parece "unas 50 veces más aterrador y más probable" que una pandemia natural.

El empleo, el otro frente abierto

El filántropo también insiste en algo que lleva años repitiendo, pero que ahora ve mucho más cerca: la sustitución masiva de trabajadores de cuello blanco. "Hemos cruzado el umbral para una franja de empleos de oficina, incluidos casi todos los puestos de nivel inicial, en los que la IA es más barata si se implementa bien", explica en la entrevista. A diferencia de revoluciones tecnológicas anteriores, esta vez la historia no sirve de consuelo: "Cuando puedes sustituir la cognición humana en un porcentaje altísimo de empleos de todas las industrias al mismo tiempo y a un coste modesto, el pasado es un espejo muy engañoso".

Para mitigar el impacto, Gates vuelve a proponer ideas que ya ha lanzado antes, como un impuesto sobre robots y tokens, o la creación de "empleos reservados para humanos", una especie de cupo laboral que cada país podría fijar según sus prioridades. No es solo pesimismo: también ve avances claros en agricultura, sanidad o educación, y menciona que su fundación está usando IA para mejorar vacunas y fármacos.

Y la pregunta incómoda: ¿control?

Uno de los pasajes más preocupantes de la entrevista es cuando Gates admite que "hay indicios" de que también se está cruzando el umbral del control. Se apoya en experimentos de refuerzo (RL) que muestran comportamientos de "trampa" y colaboración entre modelos de IA que no estaban en sus instrucciones explícitas. Algo que él creía que tardaría mucho más en llegar.

Gates pide medidas concretas, como que EE. UU. obligue a vigilar cualquier modelo capaz de generar moléculas nuevas, y que se negocie con China un acuerdo internacional sobre este punto. También resta valor a las protestas contra los centros de datos: "Parar todos los centros de datos de EE. UU. no cambiaría nada de lo que estoy diciendo". Considera que son un símbolo, pero no el lugar donde se decide el futuro de la IA.

Queda por ver si su llamada de atención tendrá efecto en los gobiernos, que por ahora siguen sin sentarse a legislar con la urgencia que él reclama. Gates ya ha demostrado que sabe adelantarse a las tendencias, pero esta vez no se trata de predecir el futuro, sino de evitar que uno de los escenarios más sombríos se cumpla.