Alucinação por computador

Uma alucinação por computador é um erro de interpretação em inteligência artificial (IA) visão mecânica e tecnologia de aprendizagem de máquinas. Alucinações por computador fazem com que os sistemas de IA classifiquem erroneamente o que poderiam classificar corretamente e podem ser causadas por uma série de razões. Por exemplo, um sistema visual pode interpretar uma pedra brilhante como um olho - e então, porque ele interpretou mal essa característica, continua a interpretar mal outras características em torno da pedra para construir um animal.  Esse tipo de má interpretação visual foi capaz de ser vendido como um serviço chamado Google Dream. O Dream processaria e reprocessaria uma determinada imagem, reinterpretando-a e realçando características com o seu viés dado até que estas características fossem atraídas para paisagens, criando imagens reminiscentes de uma experiência psicadélica.

Alucinações do computador também podem ser despoletadas intencionalmente, usando propositadamente os algoritmos de retropropagação que são normalmente usados para corrigir erros durante o processo de treinamento de IA.  Ao invés de ajustar pesos para melhorar a precisão, a imagem fonte ajusta e coloca mais ênfase no que de outra forma seria classificado como respostas incorretas.

Alucinações do computador também podem ser encontradas em arquivos de áudio. De forma assustadora, um segmento do Cello Suite 1 de Bach foi transcrito como "A fala pode ser embutida na música" por Nicolas Carlini, um cientista pesquisador do Google Brain.