ChatGPT pondrá a los adolescentes en un modo más seguro y podrá comunicarse con padres y autoridades

OpenAI anunció el martes nuevas funciones de seguridad para ChatGPT. Son parte de un esfuerzo continuo para responder a las preocupaciones sobre cómo los menores interactúan con los chatbots. La empresa está creando un sistema de predicción de edad que identifica si un usuario es menor de 18 años y lo dirige a un sistema «apropiado para su edad» que bloquea el contenido sexual gráfico. Si el sistema detecta que el usuario está pensando en suicidarse o autolesionarse, se pondrá en contacto con sus padres. En caso de peligro inminente, si los padres del usuario no están localizables, el sistema puede ponerse en contacto con las autoridades.

Libertad vs. seguridad

En una entrada de blog sobre el anuncio, el director ejecutivo Sam Altman escribió que la empresa está tratando de equilibrar la libertad, la privacidad y la seguridad de los adolescentes.

«Somos conscientes de que estos principios están en conflicto, y no todo el mundo estará de acuerdo con la forma en que estamos resolviendo ese conflicto», escribió Altman. «Son decisiones difíciles, pero después de hablar con expertos, esto es lo que creemos que es mejor y queremos ser transparentes en nuestras intenciones».

Mientras que OpenAI tiende a priorizar la privacidad y la libertad para los usuarios adultos, para los adolescentes la compañía declara que antepone la seguridad. A finales de septiembre, la empresa pondrá en marcha controles parentales para que los padres puedan vincular la cuenta de sus hijos a la suya propia, lo que les permitirá gestionar las conversaciones y desactivar funciones. Los padres también podrán recibir notificaciones cuando «el sistema detecte que su hijo adolescente se encuentra en un momento de angustia aguda», según la entrada del blog de la empresa, y establecer límites sobre las horas del día en que sus hijos pueden utilizar ChatGPT.

Estas medidas llegan en un momento en que siguen apareciendo titulares muy preocupantes sobre personas que se suicidan o cometen actos de violencia contra miembros de su familia tras mantener largas conversaciones con chatbots de inteligencia artificial. Los legisladores han tomado nota, y tanto Meta como OpenAI están bajo escrutinio. A principios de este mes, la Comisión Federal de Comercio pidió a Meta, OpenAI, Google y otras empresas de IA que facilitaran información sobre el impacto de sus tecnologías en los niños, según Bloomberg.

Al mismo tiempo, OpenAI sigue sometida a una orden judicial que le obliga a preservar indefinidamente los chats de los consumidores, algo que, según las fuentes con las que he hablado, disgusta enormemente a la empresa. La noticia de hoy es tanto un paso importante hacia la protección de los menores como un inteligente movimiento de relaciones públicas para reforzar la idea de que las conversaciones con los chatbots son tan personales que la privacidad de los consumidores sólo debería violarse en las circunstancias más extremas.

«Un avatar Sexbot en ChatGPT»

Por las fuentes con las que he hablado en OpenAI, la carga de proteger a los usuarios pesa demasiado sobre muchos investigadores. Quieren crear una experiencia de usuario que sea divertida y atractiva, pero rápidamente puede virar hacia convertirse en algo desastrosamente adulador. Es positivo que empresas como OpenAI tomen medidas para proteger a los menores. Al mismo tiempo, a falta de una regulación federal, no hay nada que obligue a estas empresas a hacer lo correcto.

En una entrevista reciente, Tucker Carlson presionó a Altman para que respondiera exactamente quién está tomando estas decisiones que afectan al resto de nosotros. El jefe de OpenAI señaló al equipo de comportamiento del modelo, que es responsable de afinar el mismo para ciertos atributos. «La persona a la que creo que deberías responsabilizar de esas decisiones soy yo», añadió Altman. «Soy una cara pública. Al final, soy yo quien puede anular una de esas decisiones, o nuestro consejo».