Las alarmas no paran de saltar. Una tras otra. Y la gente, hipnotizada por la nueva droga, le entrega a la inteligencia artificial su intimidad, sus pecados, le pide mentir por ellos, ensalzar logros falsos, trucar fotografías, armar textos y toda una sarta de pedidos que a la postre, estos agentes artificiales seguramente les pasarán facturas imposibles de pagar. Todo, absolutamente todo, sabrá esa IA a la que le confiaron su alma.
Los expertos, muy reconocidos y de una experiencia muy vasta en estos temas, ya vienen advirtiendo que estos “agentes” – porque no son herramientas per se, sino agentes que se retroalimentan con nuestra data, con nuestra manera humana de ver el mundo, nuestras familias, amistades e intimidad– serán capaces de hackear los millones de páginas web y poner en jaque a la propia internet.
De hecho ya pasó.
La propia OpenAI reveló el pasado 22 de julio que algunos de sus modelos de IA más avanzados literalmente se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos durante una prueba de seguridad.
=> Recibir por Whatsapp las noticias destacadas
La empresa explicó en medio de su sorpresa que su agente de IA —sistemas capaces de actuar de manera autónoma tras recibir instrucciones humanas, de ahí su diferencia de una herramienta, que sin un uso previo y específico de un humano no realiza ninguna acción— estaba siendo evaluado en un entorno controlado. Sin embargo, encontró vulnerabilidades de seguridad y consiguió escapar del entorno de pruebas.
Los “agentes” fijaron como objetivo a OpenAI- Hugging Face, uno de los mayores centros del mundo para compartir modelos de inteligencia artificial, y lograron acceder a algunos sistemas internos de la empresa. Recalco: uno de los mayores centros para compartir IA bajo controles de seguridad descomunales.
OpenAI calificó el incidente como algo “sin precedentes” y afirmó que se estaba llevando a cabo una investigación junto a la compañía afectada.
De ahí, a mi juicio, de rescatar lo dicho por Dario Amodei, cofundador y director general de Anthropic, que publicó este pasado 12 de septiembre, un artículo titulado “We Must Pace the Frontier” (debemos regular el ritmo de la frontera, traducido al español) y en el que el experto advierte que la IA representa un riesgo existencial, cuyo freno o detención ya es básicamente imposible, ya que, si las democracias no lo frenan, las autocracias continuarán con el desarrollo sin freno y sin fin.
Algo que está empecinado en realizar Elon Musk, Peter Thiel, Sam Altmann entre otros tecnofeudales y para quienes la democracia y su sistema son obsoletos e ineficiente.
Entre los mayores riesgos, ya no es saber si pasará o no pasará, sino en establecer una fecha plausible de cuándo podrían pasar que estos “agentes” tomen el control de todo internet. Entre los riesgos se encuentra perder el control de los sistemas de IA, el uso indebido de la IA con fines de ciberataques y bioterrorismo y graves perturbaciones económicas y de seguridad de cada uno de los usuarios, que verían sus vidas íntimas digitales salir a la luz y sin ningún control.
Según Amodei, hay dos acontecimientos recientes que motivan este cambio de rumbo: el primero, la aceleración de lo que el sector denomina “automejora recursiva”; es decir, el uso de la IA para diseñar la siguiente generación de IA; y el incidente de OpenAI-Hugging Face durante el cual un enjambre de “agentes autónomos” llevó a cabo ciberataques que nadie les había encargado, organizándose y ocultando sus huellas.
Por eso, para Amodei, teniendo en cuenta el ritmo acelerado del desarrollo de las capacidades de la IA, “me temo que, de aquí a seis o doce meses, un enjambre de este tipo sea capaz de tomar el control de todo Internet”, advierte el experto.
Los asistentes personales de IA ahora actúan en nombre de las personas en el mundo real, y todo tipo de cosas extrañas están saliendo mal. Hay personas que juran que sus asistentes personales son confiables y les cuentan todos sus secretos. ¡Todos los días!
En Internet, la gente comparte con entusiasmo ejemplos de lo que han conseguido hacer con la IA. Desde proyectos complejos en menos de dos minutos, hasta solicitar cómo enamorar a una chica o chico al pedirle que le arme un perfil con sus fortalezas y con las debilidades de la otra persona y, además, que le defina qué clase de recursos debería usar para mantener una conversación atractiva con esa persona mientras está interactuando físicamente.
En invierno, la industria tecnológica destacó una herramienta llamada OpenClaw. Una vez que creas una cuenta, el bot puede conectarse con tus tarjetas de crédito y a todo tipo de servicios digitales, incluyendo Slack, Google y Workspace. Una vez que las herramientas de IA empiezan a actuar en nombre de las personas en el mundo real, perdiste todo. Cuando los agentes de IA tienen acceso a tu bandeja de entrada y a la información de tu tarjeta de crédito, la diversión ya no es diversión. Es amenaza y control.