Огр Маг: Даже если предположить, что однажды человечество окажется в состоянии построить достаточно мощный компьютер для возникновения Сильного ИИ (а это совершенно невозможно просто в силу законов физики), то такой ИИ по определению останется Искусственным. Человек - это не набор нулей и единиц, не калькулятор. Человеческое сознание включает в себя весь спектр чувств и переживаний. У ИИ просто нет и не будет головного мозга, в котором происходит бесчисленное множество химических реакций, позволяющих нам испытывать всю палитру эмоций. Такой ИИ, вероятно, сможет очень подробно рассказать об эмоциях, возможно, сможет убедительно их изобразить. Но можем ли мы считать здоровым психопата, который научился убедительно притворяться нормальным?

gidra: Ну, с таким-же успехом можно и про человека сказать что его эмоции ненастоящие, ведь он создан из атомов из которых можно построить любое другое существо которое будет выполнять по средствам тех-же атомов те-же вычисления.
И чтобы вообще пропали все сомнения- представим что человека создали собрав его по атомам. Выходит что либо копия настоящего человека неразумная либо настоящий человек не обладает сознанием. А значит ИИ должно так-же считаться обладающим сознанием.

Огр Маг: 1. Эмоции человека будут настоящими, тк он их испытывает по-настоящему.
2. Человек не "создан", а состоит из атомов, из которых состоит все вокруг. Это не повод размывать границы между объектами. Камень состоит из атомов и, при этом, остается камнем.
3. Допустим человека собрали по атомам. Это человек собранный по атомам с настоящим сознанием. При чем тут ИИ?