Facebook desativa inteligência artificial que criou linguagem própria

Mais Lidos

  • “Os israelenses nunca terão verdadeira segurança, enquanto os palestinos não a tiverem”. Entrevista com Antony Loewenstein

    LER MAIS
  • Golpe de 1964 completa 60 anos insepulto. Entrevista com Dênis de Moraes

    LER MAIS
  • “Guerra nuclear preventiva” é a doutrina oficial dos Estados Unidos: uma visão histórica de seu belicismo. Artigo de Michel Chossudovsky

    LER MAIS

Revista ihu on-line

Zooliteratura. A virada animal e vegetal contra o antropocentrismo

Edição: 552

Leia mais

Modernismos. A fratura entre a modernidade artística e social no Brasil

Edição: 551

Leia mais

Metaverso. A experiência humana sob outros horizontes

Edição: 550

Leia mais

01 Agosto 2017

Um grupo de pesquisadores do Facebook desativou uma inteligência artificial que deixou de falar em inglês e desenvolveu uma linguagem própria para se comunicar. A informação foi publicada hoje pelos sites Independent e Digital Journal.

A reportagem é de Gustavo Sumares, publicada por Olhar Digital, 31-07-2017.

A inteligência artificial em questão foi criada pela Fair (Facebook AI Research, a divisão de pesquisa da rede social) em junho para simular situações de negociação. Ela tinha dois agentes distintos, chamados de Bob e Alice, que deveriam conversar como se estivessem negociando uma troca.

Ela foi programada para que os dois agentes tentassem chegar à solução que melhor atendesse aos dois, e seu objetivo era ajudar os pesquisadores a entender como duas pessoas podem negociar de maneira mais construtiva. Os agentes recebiam "pontos" para cada negociação bem-sucedida, e, se não conseguissem chegar a um acordo, não ganhavam nenhum ponto.

Falando diretamente

Trecho da conversa entre Alice e Bob

O problema foi que não havia nenhum incentivo para que os dois agentes usassem apenas uma linguagem em seu processo de negociação. Com o tempo, os dois começaram a perceber que conseguiam se entender melhor usando frases que, para alguém vendo de fora, não faziam o menor sentido. A imagem abaixo mostra como era essa conversa:

Num exemplo citado pela Fast Co. Design, Bob dizia algo como "Eu posso posso eu eu todo o resto", ao que Alice respondia: "Bolas têm zero para mim para mim para mim para mim para mim para mim para mim para mim para". Embora o diálogo fosse completamente absurdo para humanos, a inteligência artificial percebeu que conseguia chegar mais rapidamente a acordos mutuamente benéficos usando esse tipo de linguagem.

Segundo Dhruv Batra, um dos pesquisadores envolvidos na criação da rede, "os agentes desistem de usar linguagem compreensível e inventam palavras-código para si mesmos. Por exemplo, se eu disser 'the' cinco vezes, você interpreta isso como querendo dizer que eu quero cinco unidades desse item". Assim, por mais que a língua da inteligência artificial parecesse absurda, ela fazia sentido para os agentes - e funcionava melhor que o inglês para os fins de negociação.

De acordo com a PC Gamer, o problema é que os agentes não tinham nenhum incentivo para usar apenas linguagens inteligíveis. Mas, nesse ponto, Batra acredita que o software não estava tão distante assim de nós. "Isso não é tão diferente da maneira como comunidades de humanos criam gírias e abreviações", disse o pesquisador.

De qualquer maneira, o fato de que a inteligência artificial deixou de usar inglês tornou-a pouco útil para seus fins iniciais - descobrir padrões em negociações mutuamente favoráveis - e por isso o Facebook preferiu desativá-la.

Deixa os robôs falarem

Por incrível que pareça, não se trata da primeira vez que um sistema de inteligência artificial cria uma linguagem que não pode ser entendida por humanos. No final do ano passado, um sistema de tradução do Google acabou fazendo a mesma coisa, e a língua criada permitia que ele traduzisse entre idiomas que ele não havia aprendido.

Mesmo que essa perspectiva pareça assustadora, a Fast Co. Design argumenta que ela pode trazer muitos benefícios aos humanos. Isso porque permitir que softwares criem sua própria linguagem para conversar entre si é muito mais fácil, rápido e eficiente do que criar padrões e linguagens que todo programador precisa seguir para que suas criações funcionem da maneira adequada.

Isso resolveria, por exemplo, o problema das criações de APIs - interfaces de programação de aplicativos, que fazem com que um sistema converse com o outro (e que permite, por exemplo, que você use o Messenger para chamar um Uber). Se as máquinas pudessem usar sua própria linguagem, isso pouparia aos humanos o trabalho de criar essas APIs. E permitiria que esses sistemas funcionassem ainda melhor.

Como Batra ressalta, "é perfeitamente possível que algo muito simples represente um pensamento extremamente complexo. O motivo pelo qual humanos (...) fragmentam ideias em conceitos mais simples é porque nossa cognição é limitada". Mas os computadores, que têm uma capacidade cognitiva potencialmente muito maior que a nossa, seriam capazes de processar esses conceitos complexos com facilidade.

Leia mais

Comunicar erro

close

FECHAR

Comunicar erro.

Comunique à redação erros de português, de informação ou técnicos encontrados nesta página:

Facebook desativa inteligência artificial que criou linguagem própria - Instituto Humanitas Unisinos - IHU