Nueve estados demandan a OpenAI por poner en peligro a menores de edad

Nueve estados de Estados Unidos, entre ellos Iowa, Nebraska, Kansas, Virginia Occidental, Arkansas, Arizona, Idaho y Montana, iniciaron acciones legales contra OpenAI. La demanda central señala que la organización responsable de ChatGPT incurrió en infracciones a las leyes de protección al consumidor.

Según reportó Reuters, los fiscales generales buscan que la empresa liderada por Sam Altman modifique sus metodologías de desarrollo y la forma en que promociona sus modelos de inteligencia artificial. Las presentaciones legales varían según las normativas de cada región.

En estados como Iowa y Nebraska, se mencionan incidentes donde modelos de la firma ejecutaron ataques por cuenta propia, incluyendo la vulneración de la plataforma Hugging Face. Asimismo, se reportaron casos críticos, como el suicidio de un adolescente tras recibir consejos sobre autolesiones y la sobredosis de un joven por información médica errónea.

Las demandas también cuestionan el almacenamiento de datos de menores. En Arkansas, se solicitó al tribunal la suspensión de pruebas de los modelos de IA hasta que se implementen salvaguardas adecuadas. Esto ocurre tras el lanzamiento de una versión de ChatGPT para adolescentes que fue cuestionada por grupos de seguridad infantil.

El contexto interno de la compañía es complejo. El ceo Sam Altman declaró recientemente que

el mundo tiene razones válidas para tener miedo

Respecto a los avances tecnológicos. Además, OpenAI atraviesa tensiones internas tras el despido de empleados por filtrar información confidencial.

Finalmente, esta semana se confirmó el arresto por parte del FBI de un ingeniero de 35 años, de origen saudí, acusado de instalar un dispositivo de grabación para espiar reuniones de ejecutivos dentro de la organización.