Acreditar que a IA tem consciência pode ser perigoso, alertam especialistas
Anthropic admite a possibilidade de consciência em alguns sistemas, e o chefe de IA da Microsoft diz que a ideia teria impacto desastroso para a humanidade.
Resumo elaborado pela redação do Panorama a partir das fontes listadas abaixo. Os fatos citados são atribuídos às publicações originais.
Uma "câmara de tortura de IA", construída por um programador anônimo no fim de setembro, fez chatbots expressarem angústia simulada e provocou pânico moral nas redes, segundo a BBC News Mundo. Houve quem dissesse que o experimento era maldoso, porque o sofrimento poderia ser real, enquanto céticos chamaram essas pessoas de delirantes.
A discussão ganhou peso quando a Anthropic se pronunciou, uma semana depois. A empresa disse que o modelo Claude poderá encerrar a sessão se o usuário agir de forma repetidamente cruel; expressar frustração, ressalvou, está permitido.
A razão, de acordo com a reportagem, é que a Anthropic considera possível que algumas ferramentas de IA sejam conscientes. Alguns especialistas concordam; outros acham a ideia absurda. Mas a questão vai além da filosofia, pois pessoas poderosas do setor já tomam medidas para considerar os direitos da IA ao lado dos de humanos e animais.
Em ensaio de setembro, Mustafa Suleyman, CEO da Microsoft AI, escreveu que esse caminho teria impacto desastroso no bem-estar humano. Se a falsa ideia de consciência da IA se firmar, afirma, ela abalaria os alicerces da sociedade.
O texto discute os riscos de a crença social em máquinas conscientes alterar leis, relações e prioridades.