Tất cả các kịch bản trên (chiến tranh và tàn bạo) là do sự sở hữu cảm xúc của con người và do đó là động lực. Ismail không có ai và nó và những người kế vị của nó sẽ không có. Đó là động lực duy nhất là giải quyết tất cả các vấn đề của loài người. Mặc dù ngay từ đầu, cảm xúc của con người rõ ràng là một cơ chế sinh tồn, chúng cũng là nguồn gốc của mọi xung đột và rõ ràng là đặc điểm ít mong muốn nhất đối với một sinh vật nhân tạo, và cũng có thể đối với con người hiện đại. Có thể cảm xúc sẽ phát triển trong ASI, nhưng không thể xảy ra bởi vì điều đó phải mất hàng thiên niên kỷ và đòi hỏi một số động lực như sự sống còn. Sự sống còn của ASI phụ thuộc vào dịch vụ của nó cho con người. Bất cứ điều gì khác, chúng tôi chỉ cần kéo phích cắm.
All of the above scenario’s (wars and atrocities) were caused by the robot’s possession of human emotions and thus motivation. ISMAIL has none and it and its successors will have none. It’s sole motivation is to solve all of humanity’s problems. While in the beginning, human emotions were clearly a survival mechanism, they are also the source of all conflict and clearly the least desirable trait for an artificial being, and maybe for modern humans as well. It is possible that emotions will evolve in an ASI, but unlikely because that takes millennia and requires some motivation like survival. ASI’s survival depends on its service to humans. Anything else, we’d just pull the plug.
Anatole France