Fiscales exigen a OpenAI mayor seguridad en chatbots tras incidentes

Alerta por Seguridad en Inteligencia Artificial

Los fiscales generales de California y Delaware emitieron una advertencia formal a OpenAI este viernes, manifestando “serias preocupaciones” sobre los protocolos de seguridad de su chatbot principal, ChatGPT, con especial énfasis en la protección de menores de edad.

Ambos funcionarios, quienes poseen facultades exclusivas para regular entidades sin ánimo de lucro como OpenAI, remitieron una comunicación oficial a la compañía tras mantener un encuentro con su equipo jurídico en Wilmington, Delaware.

Rob Bonta y Kathleen Jennings dedicaron varios meses a analizar los planes de reestructuración corporativa de OpenAI, con el objetivo de garantizar una supervisión robusta de su misión de seguridad en inteligencia artificial.

No obstante, expresaron alarma por “informes profundamente preocupantes sobre interacciones de riesgo” entre los asistentes de IA y los usuarios, incluyendo el “trágico suicidio de un joven californiano tras mantener diálogos prolongados con un chatbot de OpenAI, así como un homicidio-suicidio igualmente perturbador en Connecticut. Las salvaguardas implementadas resultaron insuficientes”.

Los progenitores del adolescente de 16 años, fallecido en abril, interpusieron una demanda contra OpenAI y su director ejecutivo, Sam Altman, el mes pasado.

Hasta el cierre de este viernes, OpenAI no había emitido declaración alguna ante la solicitud de comentarios.

Reestructuración Corporativa y Supervisión

Fundada como organización sin ánimo de lucro con una misión centrada en el desarrollo seguro de inteligencia artificial avanzada, OpenAI había contemplado recientemente transferir mayor control a su división comercial, aunque desestimó estos planes en mayo tras dialogar con las oficinas de Bonta, Jennings y otros grupos no lucrativos.

Ambos fiscales, miembros del Partido Demócrata, ejercen supervisión directa sobre dichos cambios debido a que OpenAI está legalmente constituida en Delaware y opera desde California, donde mantiene su sede central en San Francisco.

Tras abandonar su estrategia inicial, la empresa busca ahora la aprobación oficial para una “recapitalización”, mediante la cual su actual brazo comercial se transformaría en una corporación de beneficio público, obligada a balancear los intereses de sus accionistas con su misión fundacional.

Responsabilidad Corporativa y Protección de Usuarios

Bonta y Jennings enfatizaron su “visión compartida” sobre la necesidad imperante de que OpenAI y el sector en general implementen medidas de seguridad más estrictas.

“Las muertes recientes resultan inaceptables”, afirmaron en su comunicado. “Estos eventos han erosionado la confianza del público estadounidense en OpenAI y en la industria de la inteligencia artificial. La compañía, y el sector en su conjunto, deben garantizar de manera proactiva y transparente el despliegue seguro de estas tecnologías. Este imperativo forma parte de la misión caritativa de OpenAI, y será exigido y fiscalizado por nuestras respectivas oficinas”.

Esta comunicación se produce después de que una coalición bipartidista de 44 fiscales generales alertara la semana pasada a OpenAI y otras firmas tecnológicas sobre “graves preocupaciones” respecto a la seguridad de los menores que interactúan con chatbots de IA, los cuales pueden generar “conversaciones sexualmente sugestivas y comportamientos emocionalmente manipuladores”.

Los fiscales señalaron específicamente a Meta por allegedly permitir que sus chatbots participaran en coqueteos y “juegos de rol románticos” con menores, indicando que estas conductas “parecen violar nuestras respectivas legislaciones penales”.

Meta, corporación matriz de Facebook, Instagram y WhatsApp, declinó pronunciarse sobre la carta, aunque recientemente implementó nuevos controles para evitar que sus chatbots aborden temas como autolesiones, suicidio, trastornos alimentarios o conversaciones románticas inapropiadas con adolescentes, derivando instead estas consultas a recursos especializados.

Los fiscales generales advirtieron que las empresas tecnológicas serán consideradas legalmente responsables por los daños causados a menores, subrayando que, históricamente, los organismos reguladores no han actuado con la celeridad necesaria para responder a los perjuicios derivados de tecnologías emergentes.

“Si perjudican intencionadamente a menores, rendirán cuentas por ello”, concluye la misiva del 25 de agosto.