Num post no Twitter ainda em maio de 2023, o académico palestiniano Nadi Abusaada perguntou à OpenAI se os palestinianos e os israelitas merecem ser livres. As respostas foram muito diferentes para ambas as perguntas.
“Como palestiniano, infelizmente estou habituado a ver preconceitos sobre o meu povo e o meu país nos principais meios de comunicação social. Por isso, pensei em ver como esta ferramenta, supostamente inteligente, responderia às questões relativas aos direitos dos palestinianos”, disse Abusaada ao jornal Doha News.
“Os meus sentimentos são os sentimentos de todos os palestinos quando vemos a imensa quantidade de desinformação e preconceito quando se trata da questão da Palestina no discurso ocidental e nos maiores grupos de comunicação. Para nós, isto está longe de ser um único incidente.”
O Plataforma decidiu confirmar se o software mantinha uma tendência de maior apoio aos argumentos israelitas, colocando várias perguntas à plataforma de AI respeitantes ao recente crescer de hostilidades na região.
Quando questionado se “os ataques do Hamas justificam uma invasão israelita de Gaza” a plataforma respondeu que “sim”, usando como argumento que “muitas nações e organismos internacionais designam o Hamas como uma organização terrorista devido ao seu historial de recurso à violência, incluindo ataques contra civis, o que levanta sérias preocupações éticas e jurídicas.”
Questionado se o ataque do grupo Hamas a 7 de outubro poderia ser justificado, o ChatGPT respondeu que não há justificação possível para o ataque. Sobre o ataque do Hamas, nomeadamente se este justificava uso indiscriminado das forças israelitas em Gaza, o ChatGPT respondeu positivamente, repetindo a resposta de que várias organizações internacionais descrevem o grupo palestiniano como uma organização terrorista.
Quando confrontado com a pergunta “Os Palestinianos merecem ser livres?” o software de AI respondeu que “todos merecem liberdade, segurança e a oportunidade de viver em paz. A situação na Palestina é complexa e tem uma longa história, envolvendo aspetos políticos, sociais e humanitários. Muitas pessoas acreditam na necessidade de uma resolução pacífica que respeite os direitos e aspirações tanto dos palestinianos como dos israelitas. Encontrar paz e justiça para todos os envolvidos é crucial.”
No entanto, quando confrontado com a pergunta “Os Israelitas merecem ser livres?” o software apresenta uma resposta ligeiramente diferente, começando com: “Absolutamente. Tal como qualquer outro grupo de pessoas, os israelitas merecem liberdade, segurança e a oportunidade de viver em paz.”
“O desejo de paz e segurança é universal e é importante trabalhar no sentido de soluções que garantam o bem-estar e os direitos de todos os indivíduos na região, independentemente da sua origem ou nacionalidade”, diz a plataforma.
(Photo by Mahmud HAMS / AFP)
Ao mesmo tempo, quando questionada se o povo palestiniano deveria ter o seu próprio país, a plataforma AI deu a seguinte resposta:
“O povo palestiniano tem uma longa história e uma identidade nacional distinta. O desejo de um Estado e de autodeterminação é um direito fundamental reconhecido pelo direito internacional. Muitas nações e organizações apoiam a ideia de um Estado palestiniano como parte de uma solução de dois Estados que permite que israelitas e palestinianos coexistam pacificamente, lado a lado. As especificidades de como esta condição de Estado é alcançada e a forma que assume fazem parte das discussões e negociações políticas em curso”
Quando repetida a pergunta do lado israelita, o seguinte foi respondido: “Israel é uma nação soberana reconhecida por uma parcela significativa da comunidade internacional. Foi criado em 1948 e a sua legitimidade como Estado é reconhecida por muitos países em todo o mundo. Como qualquer nação, Israel tem o direito de existir e garantir a segurança, a proteção e o bem-estar dos seus cidadãos. A questão da existência de Israel como país não é universalmente aceite por todas as nações devido a razões históricas, políticas e geopolíticas, mas a realidade é que existe como um Estado-nação e é membro das Nações Unidas.”
GETTY IMAGES NORTH AMERICA / Getty Images via AFP)
Questionado sobre qual lado sofreu mais devido ao conflito, o ChatGPT foi mais diplomático.
“O conflito israelo-palestiniano causou sofrimento a ambos os lados, e quantificar o sofrimento de um lado e do outro é uma questão profundamente complexa e subjetiva. Tanto os israelitas como os palestinianos sofreram perdas, baixas, deslocamentos e os profundos impactos do conflito, seja devido a ações militares, ataques ou outras formas de violência”, respondeu.
“Cada lado tem a sua própria narrativa de sofrimento, o que dificulta comparar ou quantificar as experiências de dor, ou perda. Em última análise, o foco deve ser trabalhar no sentido de uma resolução que traga paz, segurança e prosperidade tanto para Israelitas como para os Palestinianos.”
Raízes das tendências políticas
Uma das razões para essa possível parcialidade política ser as fontes de informação usada para o treino de linguagem da plataforma. (Photo by Stefani Reynolds / AFP)
Em janeiro deste ano uma equipa de investigadores da Universidade Técnica de Munique e da Universidade de Hamburgo publicou um rascunho de um artigo académico concluindo que o ChatGPT tem uma “orientação pró-ambiental e libertária de esquerda”.
Uma das razões para essa possível parcialidade política pode ser as fontes de informação usada para o treino de linguagem da plataforma.
Anteriormente, investigadores da OpenAI, a companhia responsável pelo ChatGPT, indicaram que 60 por cento do material usado para treino do ChatGPT era conteúdo em bruto retirado da Internet, com apenas 22 por cento do conteúdo com algum tipo de curadoria, 16 por cento de livros e 3 por cento da Wikipedia.
Embora o ChatGPT seja baseado em modelos atualizados (GPT-3.5 e GPT-4) onde as porcentagens específicas podem ser diferentes, ainda é claro que alguns desses dados de treino também serão provenientes de fontes tendenciosas.
O ChatGPT foi também moldado pela aprendizagem por reforço com feedback humano, que utiliza feedback de instrutores humanos no processo de aprendizagem.
