Trece nuevas leyes en California atacan el diseño adictivo de las redes y la incitación al suicidio por parte de los “chatbots”.

California ha promulgado una serie de leyes para proteger a los menores de los riesgos de las redes sociales y la inteligencia artificial (IA). No prohíben el acceso a redes, a diferencia de la ley francesa –que ha sido anulada–; pero fijan límites según la edad. Son las más ambiciosas de las aprobadas en Estados Unidos hasta hoy y han recibido el voto favorable de parlamentarios de los dos partidos. Las 13 leyes fueron firmadas el pasado 10 de septiembre por el gobernador, el demócrata Gavin Newsom, en una ceremonia a la que quiso dar especial relevancia. Estuvo presente como invitada la madre de Adam Raine, un chico de California que en 2025, con 16 años, se quitó la vida tras sostener largas conversaciones sobre sus ideas suicidas con ChatGPT. Una de las leyes, que lleva el nombre de Adam, exige que los chatbots con IA incluyan control parental y avisen a los padres si el hijo desactiva las restricciones. Las compañías proveedoras tendrán que aplicar protocolos de crisis cuando los usuarios adolescentes manifiesten ideaciones suicidas. También estarán obligadas a encargar auditorías independientes de seguridad y hacer una evaluación anual de riesgos. OpenAI, la creadora de ChatGPT, a la que los padres de Adam demandaron en agosto del año pasado por la influencia del chatbot en la muerte de su hijo, se ha declarado públicamente a favor de la ley. Ya antes de que fuera firmada, la compañía introdujo algunas de esas medidas, como un sistema de control parental que permite limitar los temas y el tipo de conversaciones que puede tener el adolescente con ChatGPT. Contra la adicción Otra ley destacada entre las 13 es la que prohíbe las características “adictivas” en las cuentas de menores de 16 años en las redes sociales. Expresamente excluye la reproducción automática y las recomendaciones personalizadas, que incitan a permanecer enganchado. A esta ley que le afecta, Meta (dueña de Instagram y Facebook) no ha reaccionado de la misma manera que OpenAI en su caso. En palabras de un portavoz, “la personalización es un medio por el que suministramos a los adolescentes contenidos adecuados a su edad y relevantes para ellos; todo con las cautelas apropiadas”. El acuerdo que la compañía firmó el mes pasado con 47 estados norteamericanos –California entre ellos–, que la habían demandado por perjuicios a los adolescentes, no la obliga a cambiar el sistema de recomendación. Meta solo se compromete a recordarles cada quince días que pueden desactivar la reproducción automática. A cambio, establecerá un límite de horas de uso al día, con apagón desde la medianoche a las 6 de la mañana y suspensión de notificaciones dentro del horario escolar. También eliminará los filtros “cosméticos” para alterar fotos y el registro de likes recibidos. En el arreglo que paró la vista del juicio, Meta promete también mejorar la verificación de la edad. Este es el asunto más difícil de resolver en la regulación del acceso de menores a las redes. En ningún sitio se ha dado con un sistema del todo eficaz; pero Estados Unidos es menos exigente en esto que otros países. Otra de las nuevas leyes californianas da un paso al requerir que los sistemas operativos de los dispositivos registren la fecha de nacimiento del usuario y avisen a las plataformas de aplicaciones si este resulta ser menor de edad. Con ello se pretende que se apliquen restricciones de uso según una especie de PEGI de tres tramos: menos de 13 años, de 13 a 16 y de 16 a 18. California, por cierto, es el estado que más dinero recibirá de Meta, por ser el más poblado: 1.500 millones de dólares de los 18.000 millones que la compañía pagará a los demandantes por plazos durante un decenio. Medidas en la escuela Otra de las 13 leyes refuerza la protección contra la explotación sexual de menores de 18 años, al extender la vigilancia a la difusión de imágenes creadas o alteradas mediante IA. Una más amplía las responsabilidades civiles de las plataformas por perjuicios a los menores, y fija multas elevadas. Hay una que prohíbe los juguetes con chatbot incorporado. Las leyes restantes se refieren a la escuela. Pretenden limitar el tiempo de pantallas prohibiendo a los centros educativos que obliguen a los niños a llevarse a casa dispositivos que se usan en clase, o a emplear, para comunicarse con alumnos o con padres, sistemas que incluyan características adictivas. En otros casos, recomiendan que en las escuelas se eduque a los estudiantes en el uso de medios digitales o en ciberseguridad. Una aumenta la protección de datos de los alumnos hasta la secundaria. Estas normas californianas van más lejos que las adoptadas por otros estados. En particular, ninguno hasta ahora había prohibido los mecanismos adictivos. En julio pasado, Illinois impuso limitaciones, pero no los proscribió, y permite que los padres las anulen. Las principales son que las cuentas de menores, por defecto, sean privadas y sin recomendaciones personalizadas, y que no usen la ubicación. También tendrán que apagar los avisos de 10 de la noche a 7 de la mañana. Es probable que algunas de las recientes leyes californianas sean recurridas en los tribunales por las plataformas, alegando la libertad de expresión. Quizá, en la práctica, las demandas por parte de estados y particulares, sean más eficaces para poner coto a las redes.

Un alud de medidas para proteger a los menores en el espacio digital

Contenido para suscriptores

Apúntate a la newsletter

síguenos

Un alud de medidas para proteger a los menores en el espacio digital

Contenido para suscriptores

Contenidos relacionados

Apúntate a la newsletter

síguenos

Contenido exclusivo para suscriptores de Aceprensa

Funcionalidad exclusiva para suscriptores de Aceprensa