Дочитал цикл Академия (Foundation) Айзека Азимова. Оказалось, что всю жизнь жил во лжи 😅: думал, что законов робототехники всего три. На самом деле есть ещё и нулевой закон, который Азимов сформулировал в более поздних книгах цикла. Знаете, как он звучит? Нулевой закон робототехники: Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред. Почему он «нулевой»: • он стоит выше первых трёх законов; • может перекрывать их, если речь идёт о благе всего человечества, а не отдельного человека. Это создаёт принципиально новый уровень дилемм: • можно ли навредить одному человеку ради спасения человечества? • кто и как определяет «благо человечества»? Фактически, с введением нулевого закона робот перестаёт быть «локально безопасным автоматом» и становится политическим, цивилизационным агентом, принимающим решения уровня человечества.