El Estado de California promulgó un paquete legislativo de 13 leyes que limita de forma drástica el acceso de menores de 16 años a algoritmos adictivos de inteligencia artificial y redes sociales. La normativa prohíbe el feed infinito y las reproducciones automáticas diseñadas para captar de manera compulsiva la atención de los adolescentes.
La medida presta especial atención al impacto de la inteligencia artificial generativa, vetando por cuatro años la venta de juguetes equipados con chatbots de compañía. Además, exige controles parentales estrictos y evaluaciones de riesgo obligatorias antes de lanzar herramientas conversacionales al público menor de edad.
La legislación surge impulsada por tragedias vinculadas al uso prolongado de agentes conversacionales sin supervisión adecuada. Como informó la agencia de noticias Reuters, el gobernador Gavin Newsom declaró que:
"Queremos que nuestros hijos crezcan en un mundo donde la tecnología apoye su bienestar, en lugar de explotar sus vulnerabilidades (...) La seguridad de nuestros hijos merece ser el centro de toda conversación sobre tecnología".
Con esta regulación, las plataformas digitales deberán modificar de raíz sus sistemas de recomendación basados en aprendizaje profundo o restringir el ingreso a usuarios jóvenes. Las empresas que incumplan estas disposiciones sobre protección infantil podrían enfrentar millonarias sanciones económicas de hasta un millón de dólares por cada menor afectado.
El marco regulatorio también endurece las sanciones contra la proliferación de material explícito manipulado digitalmente mediante modelos sintéticos de imágenes. Durante la presentación de la Ley Adam, Maria Raine, madre del joven que a los 16 se quitó la vida motivado por el uso de estas por estas tecnologías, según sus padres, afirmó al medio del Senado del Estado de California que:
“Es un paso muy importante y bien pensado para garantizar la seguridad de los chatbots de IA para nuestros hijos. Aún no nos hemos acostumbrado a la vida sin Adam, pero nos alegra que parte de su legado sea contribuir a que los chatbots de IA sean más seguros para los menores”.
Con este histórico paso, California establece un precedente crucial en la gobernanza global del desarrollo y la implementación ética de la inteligencia artificial.
Ver Video
