Sam Altman, CEO e co-fundador da OpenAI, a empresa que detém a ferramenta de Inteligência Artificial ChatGPT, comunicou a sua intenção de informar às autoridades os casos em que jovens menores de idade falam com o ‘chatbot’ sobre suicídio.
“Esta é uma área em que os especialistas têm diferentes opiniões e esta não é ainda uma posição final por parte da OpenAI”, salienta Sam Altman em entrevista a Tucker Carlson, apresentador e jornalista norte-americano conhecido pelas suas posições conservadoras e pelo apoio a Donald Trump. “[Mas] acho que seria bastante sensato dizermos que, em casos de jovens a falar seriamente sobre suicídio, em que não podemos contactar os pais, contactaremos de facto as autoridades”.
O co-fundador da empresa de tecnologia, que foi processado pelos pais de um adolescente de 16 anos em agosto, depois de este se ter suicidado, alegadamente sob aconselhamento do ChatGPT, aponta a dificuldade em levar a cabo estas mudanças sem que seja colocada em causa a privacidade e liberdade dos utilizadores.
“Existe uma tensão entre a liberdade e privacidade do utilizador e a proteção dos utilizadores mais vulneráveis”, explica. “Uma posição que eu acho que seria bastante razoável tomarmos, e temos caminhado cada vez mais nesta direção, seria retirar alguma liberdade a utilizadores menores de idade ou a utilizadores que pensamos estarem em lugares mentais mais frágeis, de modo geral”.
Apesar de reconhecer que é possível manipular o sistema de forma a conseguir a resposta pretendida, por exemplo, ao dizer que a informação solicitada sobre métodos de suicídio será usada para uma história ficcional ou para uma pesquisa médica, Altman aponta que este cenário deverá ser contornado. “Devemos dizer ‘olha, ainda que estejas a tentar escrever esta história ou a fazer uma pesquisa médica, nós simplesmente não vamos responder’".
Por enquanto, o ChatGPT incentiva apenas o utilizador a contactar a linha de prevenção de suicídio, através de vários alertas, sem que o caso seja comunicado às autoridades.
Contactos e serviços disponíveis para prevenção do suicídio
ACONSELHAMENTO PSICOLÓGICO NO SNS 24: 808 24 24 24
LINHA NACIONAL DE PREVENÇÃO DO SUICÍDIO E APOIO PSICOLÓGICO: 1411
SOS VOZ AMIGA (16h-24h): 213 544 545 / 912 802 669 / 963 524 660 / 800 209 899 (21h-24h, linha verde gratuita)
CONVERSA AMIGA (15h-22h): 808 237 327 / 210 027 159
VOZES AMIGAS DE ESPERANÇA DE PORTUGAL (16h-22h): 222 080 707
VOZ DE APOIO (21h-24h): 225 506 070 / sos@vozdeapoio.pt
Texto de André Sousa, editado por João Pedro Barros.