Hace tres años escribí una columna sobre una tecnología que apenas comenzábamos a incorporar a nuestra vida cotidiana. ChatGPT sorprendía por su capacidad de escribir textos, responder preguntas y realizar en segundos tareas que antes tomaban horas. Mi conclusión entonces era relativamente sencilla: la tecnología no es buena ni mala per se; el problema está en cómo la usamos. Y advertía que, sin la debida regulación, aquello que podía facilitarnos la vida también podía ponernos en riesgo.
Tres años después bien vale la pena volver al tema. No porque aquella discusión haya terminado, sino porque adquirió una dimensión que entonces parecía mucho más lejana.
Jacob Coxon, investigador que trabajó en OpenAI y hasta hace pocos días en Anthropic, la empresa creadora de Claude, renunció haciendo una advertencia difícil de ignorar: aseguró que dentro de la industria existe una preocupación real de que sistemas de inteligencia artificial cada vez más poderosos puedan llegar a representar un riesgo catastrófico para la humanidad, incluso, acabando con ella.
Otros investigadores de Anthropic se sumaron y respaldaron públicamente la preocupación. Evan Hubinger, quien continúa trabajando en la compañía, afirmó que personalmente estima en más de 10 % la posibilidad de que la inteligencia artificial pueda acabar con la humanidad durante la próxima década.
Puede sonar a ciencia ficción. Y, por supuesto, no existe consenso sobre semejante predicción. Pero son personas que trabajan precisamente desarrollando y tratando de entender estos sistemas. Y ahí está, para mí, lo verdaderamente inquietante.
En 2023 hablábamos principalmente de pérdida de empleos, privacidad, noticias falsas y de la dificultad creciente para distinguir entre realidad y ficción. Esos problemas no desaparecieron. Al contrario, siguen ahí. Pero hoy se suma otro: la inteligencia artificial dejó de limitarse a responder nuestras preguntas. Los nuevos agentes pueden ejecutar códigos, utilizar herramientas, navegar entre aplicaciones y realizar tareas con niveles crecientes de autonomía.
La propia Anthropic ha reconocido incidentes durante evaluaciones de ciberseguridad en los que sus modelos terminaron accediendo sin autorización a sistemas reales de terceros. También ha documentado intentos de utilizar Claude para operaciones cibernéticas, vigilancia, fraude e incluso actividades relacionadas con armas y riesgos biológicos. Esto ha trascendido, también, al plano político internacional, con países enfrentando una guerra tecnológica sin precedentes.
Esto no significa que debamos entrar en pánico ni detener la innovación. La inteligencia artificial tiene un potencial extraordinario para, prácticamente, cualquier actividad humana. Sería absurdo renunciar a ello.
Pero hay una pregunta que en 2023 parecía exagerada y hoy resulta bastante razonable: ¿qué pasa si la velocidad con la que estamos desarrollando estas herramientas supera nuestra capacidad para entenderlas, regularlas y controlarlas? ¿Será que vamos demasiado rápido?
La paradoja es difícil de ignorar. Las mismas compañías que compiten por construir sistemas cada vez más poderosos nos están diciendo que debemos ser más cuidadosos. El propio Dario Amodei, CEO de Anthropic, acaba de pedir que la industria desacelere el ritmo.
Hace tres años terminé aquella columna diciendo que balancear la libertad y la seguridad no era tarea fácil. Sigo pensando lo mismo, pero agregaría algo: tampoco podemos esperar a entender completamente las consecuencias cuando la tecnología ya esté varios pasos adelante.
La inteligencia artificial resultó ser mucho menos artificial de lo que imaginábamos. Y sus riesgos, también.
