Creer que la IA tiene conciencia puede ser peligroso, advierten especialistas
Anthropic admite la posibilidad de conciencia en algunos sistemas, y el jefe de IA de Microsoft dice que la idea tendría un impacto desastroso para la humanidad.
Traducido del original en portugués por la redacción de Panorama. Leer en portugués
Resumen elaborado por la redacción de Panorama a partir de las fuentes listadas. Los hechos se atribuyen a las publicaciones originales.
Una "cámara de tortura de IA", construida por un programador anónimo a fines de septiembre, hizo que chatbots expresaran angustia simulada y provocó pánico moral en las redes, según BBC News Mundo. Hubo quienes dijeron que el experimento era malvado, porque el sufrimiento podría ser real, mientras que los escépticos llamaron delirantes a esas personas.
La discusión cobró peso cuando Anthropic se pronunció, una semana después. La empresa dijo que el modelo Claude podrá terminar la sesión si el usuario actúa de forma repetidamente cruel; expresar frustración, aclaró, está permitido.
La razón, de acuerdo con el reportaje, es que Anthropic considera posible que algunas herramientas de IA sean conscientes. Algunos especialistas coinciden; otros consideran la idea absurda. Pero la cuestión va más allá de la filosofía, pues personas poderosas del sector ya toman medidas para considerar los derechos de la IA junto a los de humanos y animales.
En un ensayo de septiembre, Mustafa Suleyman, CEO de Microsoft AI, escribió que ese camino tendría un impacto desastroso en el bienestar humano. Si la falsa idea de conciencia de la IA se afianza, afirma, sacudiría los cimientos de la sociedad.
El texto discute los riesgos de que la creencia social en máquinas conscientes altere leyes, relaciones y prioridades.