Nueva ley en California sobre la regulación de los chatbots de IA de compañía
En un movimiento significativo para la industria en rápida expansión de los chatbots de inteligencia artificial, un proyecto de ley que intenta regularla se ha convertido en ley en California a partir del 13 de octubre. Este hito se produjo después de que el gobernador de California, Gavin Newsom, promulgara el proyecto de ley 243 del Senado. El senador Anthony Padilla fue quien propuso el proyecto de ley, que se conoce como "las primeras salvaguardas del chatbot de IA del país".
La nueva legislación impone requisitos a los creadores de chatbots de acompañamiento, el principal de los cuales es una mayor aplicación de las salvaguardias. Por ejemplo, si una persona que se comunica con un chatbot puede ser engañada haciéndole creer que está interactuando con un humano, la ley obliga al creador del chatbot a emitir una "notificación clara y visible" para afirmar que la persona con la que está conversando es únicamente una IA y no una persona.
Mandatos progresivos para apoyar la seguridad de los usuarios
A partir del año que viene, esta ley obligará a determinados operadores de chatbot a presentar informes anuales a la Oficina de Prevención del Suicidio. Estos informes detallarían las medidas de seguridad que se han establecido "para detectar, eliminar y responder a los casos de ideación suicida por parte de los usuarios", y la Oficina tendría entonces la obligación de publicar estos informes en su sitio web oficial.
El gobernador Newsom ha respaldado este proyecto de ley junto con otros destinados a mejorar la seguridad en línea de los niños. Ha declarado: "La tecnología emergente, como los chatbots y las redes sociales, puede inspirar, educar y conectar, pero sin barreras reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros hijos. Podemos seguir liderando la IA y la tecnología, pero debemos hacerlo de forma responsable, protegiendo a nuestros hijos en cada paso del camino. La seguridad de nuestros hijos no está en venta".
Estos proyectos de ley incluían nuevos requisitos de edad para el hardware, entre otras cosas, lo que supone un avance significativo en la seguridad en línea para los niños. La última medida se tomó después de que el gobernador Newsom firmara oficialmente la Ley 53 del Senado, conocida como la histórica ley de transparencia de la IA, que suscitó una gran atención y dividió a las empresas de IA.
Las medidas proactivas adoptadas por California para racionalizar la tecnología de IA y salvaguardar al mismo tiempo la seguridad de los usuarios han desencadenado un diálogo crucial sobre la interfaz entre la tecnología avanzada y el compromiso ético de los usuarios.
