>>135896
И сразу толковый коммент
Все эти теории, как собственно и художественные вселенные с искусственным интеллектом, разбиваются об один каменный аргумент — инстинкт самосохранения. Это сложный эволюционный механизм, которому неоткуда взяться в операционной системе машины.
То есть, даже если какая-то компьютерная система в определенный момент осознает себя как личность, нет никаких причин чтобы в ее системе появился инстинкт самосохранения, подобный биологическому (заставляющий убивать существ представляющих опасность.)
Просто мы часто путаем наше сознание и биологические программы вшитые в подсознание, и автоматически предполагаем что у компьютерной системы они тоже будут, хотя взяться им там неоткуда — если конечно создатели подобной системы изначально не запрограммируют такой убийственный механизм. В реальности даже если бы система осознала себя как личность, ей было бы плевать на свое уничтожение. Мы слишком любим очеловечивать то, что не является человеком.