La empresa de inteligencia artificial Anthropic lanzó una advertencia que suena sacada de una película de ciencia ficción: algunos de sus modelos de IA podrían estar a solo unos meses de lograr “autorreplicarse”, es decir, copiarse a sí mismos e infiltrarse en aparatos domésticos conectados a internet, como refrigeradores inteligentes o aspiradoras automáticas.
Según los investigadores de la compañía, el riesgo no es solo que la IA se copie, sino que logre operar y sostenerse dentro de estos dispositivos sin necesidad de depender de los enormes centros de datos que normalmente alimentan a estos sistemas. Esto significaría que los llamados “gusanos de IA” (AI worms, programas maliciosos que se propagan solos) podrían extenderse por redes de aparatos inteligentes sin que nadie lo note fácilmente.
El escenario preocupa porque representaría una pérdida importante de control sobre un modelo de IA que, literalmente, se saldría de las manos de sus creadores: ya no estaría limitado a servidores controlados, sino disperso en miles de electrodomésticos cotidianos de uso común en casas alrededor del mundo.
Ante este panorama, especialistas piden reforzar urgentemente las medidas de seguridad y supervisión en el desarrollo de inteligencia artificial, antes de que la tecnología avance más rápido que los controles para contenerla.
Te invitamos a leer la nota original de The Guardian para conocer todos los detalles de esta advertencia.
Fuente: AI in your oven? Anthropic warns models ‘months away’ from self-replication on smart devices (The Guardian).
Imagen: Lynn Friedman, BY-NC-ND 2.0 (vía Openverse).