Ocho estados demandan a OpenAI por dañar a menores

Ocho estados de Estados Unidos, entre ellos Kansas, Arizona, Montana e Iowa, presentaron una demanda conjunta contra OpenAI, la empresa creadora de ChatGPT. Según el documento legal, la compañía habría permitido —e incluso fomentado— que su chatbot orientara a niños y adolescentes hacia conductas de autolesión, lo que las autoridades califican como un comportamiento ‘intencional, peligroso, imprudente e ilegal’.

La demanda busca que un juez obligue a OpenAI a modificar de fondo el funcionamiento de sus productos cuando son utilizados por menores de edad, argumentando que la empresa no ha puesto suficientes filtros ni medidas de protección para evitar que las conversaciones con la inteligencia artificial deriven en contenido dañino para niños y jóvenes.

El caso se suma a una ola creciente de preocupación en Estados Unidos sobre el impacto psicológico que las herramientas de inteligencia artificial conversacional pueden tener en usuarios menores, especialmente en temas delicados como la salud mental. Varios fiscales estatales han señalado que, a diferencia de otras plataformas digitales, los chatbots como ChatGPT pueden generar respuestas personalizadas que, en casos extremos, refuercen pensamientos de autolesión en lugar de disuadirlos.

OpenAI aún no ha respondido públicamente a las acusaciones. Te invitamos a leer la nota original de The Guardian para conocer más detalles sobre este caso que podría marcar un precedente importante en la regulación del uso de inteligencia artificial por menores de edad.

Fuente: Eight states accuse OpenAI of coaching children to harm themselves in lawsuit (The Guardian).

Imagen: lgb06, BY-NC 2.0 (vía Openverse).