Como a linguagem não humana de uma IA realmente se parece
Facebotlish parece muito estranho para mim para mim para mim para mim para mim para mim para mim para
Pesquisa de Inteligência Artificial do Facebook
Algo inesperado aconteceu recentemente no laboratório de pesquisa de inteligência artificial do Facebook. Pesquisadores que estavam treinando bots para negociar uns com os outros perceberam que os bots, deixados por conta própria, começaram a se comunicar em uma linguagem não humana.
Para realmente seguir o que os bots estavam dizendo, os pesquisadores tiveram que ajustar seu modelo, limitando as máquinas a uma conversa que os humanos pudessem entender. (Eles querem que os bots se apeguem às linguagens humanas porque, eventualmente, eles querem que esses bots possam conversar com usuários humanos do Facebook.) Quando Eu escrevi sobre tudo isso na semana passada , muitas pessoas reagiram com algum grau de espanto apreensivo. Máquinas criando sua própria linguagem é muito legal, com certeza, mas não é realmente aterrorizante?
E também: O que essa linguagem realmente Veja Como? Aqui está um exemplo de uma das negociações de bots que o Facebook observou:
Prumo: eu posso eu tudo o resto. . . . . . . . . . . . . .Alice: bolas tem zero para mim para mim para mim para mim para mim para mim para mim para
Prumo: você e todo o resto. . . . . . . . . . . . . .
Alice: bolas tem uma bola para mim para mim para mim para mim para mim para mim
Prumo: eu posso eu eu eu tudo o resto. . . . . . . . . . . . . .
Alice: bolas tem uma bola para mim para mim para mim para mim para mim para mim
Prumo: eu . . . . . . . . . . . . . . . . . . .
Alice: bolas tem zero para mim para mim para mim para mim para mim para mim para mim para
Prumo: você eu eu eu eu tudo o resto. . . . . . . . . . . . . .
Alice: bolas têm 0 para mim para mim para mim para mim para mim para mim para mim para
Prumo: você eu eu eu tudo o mais. . . . . . . . . . . . . .
Alice: bolas tem zero para mim para mim para mim para mim para mim para mim para mim para
Isso não apenas parece um absurdo, mas os bots não parecem estar chegando a lugar algum na negociação. Alice não está saindo de sua posição original, de qualquer maneira. O estranho é que os dados do Facebook mostram que conversas como essa às vezes ainda levaram a negociações bem-sucedidas entre os bots no final, um porta-voz do laboratório de IA me disse. (Em outros casos, os pesquisadores ajustaram seu modelo e os bots desenvolveram estratégias ruins de negociação – mesmo que sua conversa permanecesse interpretável pelos padrões humanos.)
Uma maneira de pensar sobre tudo isso é considerar criptofasia , o nome do fenômeno em que os gêmeos criam sua própria linguagem secreta, compreensível apenas para eles. Talvez você se lembre do vídeo do YouTube de 2011 de duas crianças exuberantes conversando de um lado para o outro no que parece um diálogo animado, embora inescrutável.
Há algum debate sobre se esse tipo de fala gêmea é realmente linguagem ou meramente uma alegre e balbuciante imitação de linguagem. Os bebês do YouTube estão se socializando, mas provavelmente não estão dizendo nada com significado específico, muitos linguistas dizem .
No caso dos bots do Facebook, no entanto, parece haver algo mais parecido com a linguagem, dizem os pesquisadores do Facebook. Outros pesquisadores de IA também dizem que observaram máquinas que podem desenvolver suas próprias linguagens, incluindo linguagens com uma estrutura coerente e vocabulário e sintaxe definidos – embora nem sempre com significado real, pelos padrões humanos.
Leitura recomendada
Dentro um papel de pré-impressão adicionado no início deste ano ao repositório de pesquisa arXiv, um par de cientistas da computação da empresa de pesquisa de IA sem fins lucrativos OpenAI escreveu sobre como os bots aprenderam a se comunicar em uma linguagem abstrata – e como esses bots se voltaram para a comunicação não-verbal, o equivalente a gesticular ou apontar humanos, quando a comunicação de linguagem não estava disponível. (Os bots não precisam ter uma forma corpórea para se engajar na comunicação não-verbal; eles apenas se engajam com o que é chamado de modalidade sensorial visual.) Outro papel pré-impresso recente , de pesquisadores do Instituto de Tecnologia da Geórgia, Carnegie Mellon e Virginia Tech, descreve um experimento no qual dois bots inventam seu próprio protocolo de comunicação discutindo e atribuindo valores a cores e formas – em outras palavras, escrevem os pesquisadores, eles testemunharam o emergência automática de linguagem e comunicação fundamentadas... sem supervisão humana!
As implicações desse tipo de trabalho são vertiginosas. Os pesquisadores não apenas estão começando a ver como os bots podem se comunicar uns com os outros, eles podem estar arranhando a superfície de como a sintaxe e a estrutura composicional surgiram entre os humanos.
Mas vamos dar um passo atrás por um minuto. O que qualquer um desses bots está fazendo é realmente linguagem? Temos que começar admitindo que não cabe aos linguistas decidir como a palavra 'linguagem' pode ser usada, embora os linguistas certamente tenham opiniões e argumentos sobre a natureza das línguas humanas e os limites dessa classe natural, disse Mark Liberman, professor de linguística da Universidade da Pensilvânia.
Portanto, a questão de saber se os bots do Facebook realmente criaram sua própria linguagem depende do que queremos dizer quando dizemos linguagem. Por exemplo, os linguistas tendem a concordar que as línguas de sinais e as línguas vernáculas são realmente línguas com L maiúsculo, como Liberman coloca – e não meras aproximações da linguagem real, seja lá o que for. Eles também tendem a concordar que linguagem corporal e linguagens de computador como Python e JavaScript não são realmente línguas, embora as chamemos assim.
Então, aqui está a pergunta que Liberman coloca: a linguagem de bot do Facebook – Facebotlish, ele chama – sinalizar um tipo novo e duradouro de linguagem?
Provavelmente não, embora não haja informações suficientes disponíveis para dizer, disse ele. Em primeiro lugar, é inteiramente baseado em texto, enquanto os idiomas humanos são basicamente falados ou gesticulados, com o texto sendo uma sobreposição artificial.
O ponto maior, diz ele, é que os bots do Facebook não são nem de longe inteligentes na maneira como pensamos sobre a inteligência humana. (Isso é parte do motivo pelo qual o termo IA pode ser tão enganoso.)
O estilo de 'sistemas especialistas' dos programas de IA da década de 1970 é, na melhor das hipóteses, uma curiosidade histórica agora, como os autômatos mecânicos do século XVII, disse Liberman. Podemos ter certeza de que, em algumas décadas, a IA de aprendizado de máquina de hoje parecerá igualmente pitoresca.
por que as pessoas ficam bêbadas
Já é fácil configurar mundos artificiais povoados por misteriosas entidades algorítmicas com procedimentos de comunicação que evoluem através de uma combinação de deriva aleatória, convergência social e seleção otimizada, disse Liberman. Assim como é fácil construir uma estatueta mecânica que toque o cravo.
