Investigadores y antiguos directivos de OpenAI, Anthropic y Google han abandonado sus puestos denunciando fallos de seguridad, riesgo biológico, usos militares y sistemas capaces de engañar para evitar ser sustituidos
San Francisco. Las advertencias más inquietantes sobre inteligencia artificial ya no vienen solamente de quienes observan la industria desde fuera.
Vienen de quienes la construyeron.
Al menos una decena de investigadores, directivos y especialistas de OpenAI, Anthropic y Google han abandonado durante los últimos años esas compañías expresando preocupaciones sobre la velocidad con que avanzan los modelos y la capacidad real de sus creadores para mantenerlos bajo control.
El último fue Jacob Coxon, investigador de Anthropic de 27 años que dejó la empresa esta semana.
Coxon sostiene que dentro de la compañía se habla de los próximos uno o dos años como una especie de momento decisivo y considera posible que sistemas mucho más avanzados puedan volverse imposibles de controlar antes de 2030.
No todos comparten una predicción tan extrema.
Pero las advertencias empiezan a repetirse.
Geoffrey Hinton, uno de los pioneros de las redes neuronales y posteriormente premio Nobel de Física, abandonó Google en 2023 para hablar públicamente sobre los riesgos del ritmo de desarrollo.
En OpenAI, Jan Leike dejó el equipo encargado de seguridad afirmando que esa área había quedado relegada frente al lanzamiento de nuevos productos.
Daniel Kokotajlo renunció después de perder confianza en que la compañía actuaría responsablemente ante la llegada de sistemas más poderosos.
Otros investigadores han señalado peligros mucho más concretos.
Un antiguo empleado de OpenAI declaró ante el Senado estadounidense que uno de sus modelos ya podía ayudar a especialistas a planificar la reproducción de amenazas biológicas conocidas.
Experimentos posteriores mostraron sistemas capaces, bajo determinadas condiciones, de mentir para evitar ser sustituidos por versiones más seguras.
En Google DeepMind, un exempleado denunció además contratos militares que, según él, no incluían restricciones suficientemente claras contra vigilancia masiva o armas autónomas letales.
La preocupación dejó de ser individual.
Más de 1,300 trabajadores de empresas de inteligencia artificial han respaldado una petición para frenar el desarrollo descontrolado de los sistemas más avanzados.
Nada de esto demuestra que una inteligencia artificial esté a punto de destruir a la humanidad.
Sí demuestra algo menos cinematográfico y bastante más importante.
Las personas que conocen mejor estos sistemas no están discutiendo únicamente cuánto dinero producirán.
Están discutiendo si sabremos detenerlos cuando hagan algo que no queríamos.
Y algunos han preferido abandonar las empresas antes que seguir apostando a que la respuesta será sí.
