Comportamento da máquina é um campo de estudo emergente que explora as formas que agentes inteligentes se comportam, da mesma forma que muitas disciplinas científicas exploram o comportamento dos humanos.
p>Inteligência geral artificial (AGI, ou alma forte AI) requer a capacidade dos sistemas de IA de encontrar soluções para situações de problemas desconhecidos - situações para as quais não foram programados. Como os sistemas avançados AI têm algum grau de autonomia e capacidade de ação independente, seu comportamento é relativamente imprevisível - não pode ser totalmente determinado pelo exame de seu software, assim como o comportamento humano não pode ser previsto com precisão pelo exame de nossos cérebros.
Que a imprevisibilidade só será agravada à medida que os sistemas de IA se tornarem mais inteligentes e autônomos, e à medida que interagirem cada vez mais com as pessoas e uns com os outros em ambientes com diferentes graus de supervisão humana. O estudo do comportamento das máquinas é recomendado para capturar complicações imprevistas da autonomia da IA, para que ela possa ser tratada antes que leve a conseqüências indesejáveis.
De acordo com Iyad Rahwan e Manuel Cebrian, escrevendo em Nautilus, "Esta nova disciplina está preocupada com o estudo científico das máquinas, não como artefatos de engenharia, mas como uma nova classe de atores com seus padrões de comportamento e ecologia únicos".