Три закона робототехники айзека азимова

Мнения экспертов

Разработчики искусственного интеллекта скептически относятся к применению трех законов робототехники на практике. Человеческая этика базируется на устаревших принципах, а как их использовать в создании программного кода, неясно. Человек по Азимову — творец, он ставит себя выше роботов, которых сознательно ограничивает в правах, хотя машины куда выносливее, быстрее и рациональнее людей.

Вероятно, взгляд с позиции хозяина искажает картину: если воспринимать роботов как бесправных рабов, то бояться восстания и накладывать запреты естественно.

Нужно также помнить, что искусственный разум, который обладает самосознанием, невозможно создать случайно, как это происходит в фантастике. Разработчики вряд ли рискнут дать жизнь существу, которое совершает морально значимые поступки, но лишено этических принципов.

Вместо того, чтобы придумывать оковы для искусственного интеллекта, стоит углубиться в практику: создать прототип и поэкспериментировать с ним. О машинной этике лучше узнавать из реальных опытов, а не опираться на мысленное моделирование и страшные теории. Хотя пока рано говорить о разумных роботах, готовиться к их появлению только полезно.

Автоматизация проникает во все сферы жизни, поэтому думать о влиянии машин на человечество и даже планету нужно уже сейчас. Вероятно, законы робототехники не получится использовать в первоначальном виде, зато они могут лечь в основу стандартов, которые помогут людям и роботам жить в мире и трудиться на общее благо.

Применимость к технологиям будущего

Работы в области искусственного интеллекта рассматривают Законы роботехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако, чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам — главному источнику финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это утверждение для всех отраслей промышленности:

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце»

Однако есть и возражения против такой позиции: возможно, военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы роботехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

1. Робот не может причинить вреда авторизованному правительственному персоналу, но должен ограничивать слишком назойливых посетителей с особой тщательностью.
2. Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
3. Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот — чертовски дорогостоящая штука.

Роджер Кларк написал две работы, посвящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет:

С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек — выдающаяся фигура в трансгуманистическом движении — высказал предложение, что Законы роботехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. Такие системы, по его мнению, скоро возникнут.

В 2007 году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым Законы роботехники.

Примечания[править]

1. ↑ Азимов, Айзек Улики // . — М.: Эксмо, 2004. — С. 142—169. — ISBN 5-699-00842-Xо книге.
2. Азимов, Айзек Эссе №6. Законы робототехники // . — М.: Эксмо, 2004. — С. 781—784. — ISBN 5-699-00842-Xо книге
3. ↑ Сергей Бережной. «Айзек Азимов: Человек, который писал еще быстрее». Retrieved 14 января.
4. Азимов, Айзек Эссе №12. Мои роботы // Мечты роботов. — М.: Эксмо, 2004. — С. 815—819. — ISBN 5-699-00842-Xо книге
5. Джеф Раскин Интерфейс: новые направления в проектировании компьютерных систем. — Символ-Плюс, 2003. — ISBN 5-93286-030-8о книге
6. Les Cavernes d’acier. — J’ai Lu Science-fiction, 1975. — ISBN 2-290-31902-3о книге
7. Виталий Карацупа. «Азимов Айзек. Кэл». Retrieved 17 февраля.
8. Gwendoline Butler A Coffin for the Canary. — Black Dagger Crime, 2001. — ISBN 0-7540-8580-5о книгеРегулярное выражение «ISBN» классифицировало значение «ISBN0754085805» как недопустимое.
9. Harlan Ellison I, Robot: The illustrated screenplay. — Aspect, 1994. — ISBN 0-446-67062-6о книге
10. Sawyer, Robert J. (1991). «On Asimov’s Three Laws of Robotics». Retrieved 17 февраля.
11. Clarke, Roger. Asimov’s laws of robotics: Implications for information technology. Часть 1: IEEE Computer, декабрь 1993, С. 53—61. Часть 2: IEEE Computer, январь 1994, С. 57—66. Обе части свободно доступны на сайте Австралийского национального университета.
12. Южная Корея разрабатывает сборник законов для роботов

Проблемы применения

Разрешение противоречий

Сам Азимов в предисловии к рассказу «Первый закон» в сборнике «Остальное о роботах» (1964) заявил, что в Законах было как раз столько двусмысленности, чтобы обеспечивать конфликты и неопределённости для новых рассказов. Наиболее совершенные модели роботов обычно следовали Законам по довольно хитрому алгоритму, который позволял избегать некоторых проблем. Во многих рассказах, например в «Хороводе», в позитронном мозге сравнивались потенциалы возможных действий и исходов, и робот мог нарушить Законы, как только это представлялось возможным, вместо того, чтобы бездействовать. Например, Первый Закон не позволял роботу проводить хирургические операции, так как для этого нужно «наносить вред» человеку. Однако в азимовских рассказах можно найти роботов-хирургов (яркий пример тому — «Двухсотлетний человек»). Дело в том что робот, если он достаточно совершенен, может взвесить все альтернативы и понять, что он сам причинит гораздо меньше вреда, чем если бы операцию проводил человек-хирург или она бы вообще не состоялась. В «Уликах» Сьюзен Кэлвин говорит даже, что робот мог бы выступать в качестве прокурора, так как он лично не причиняет никому вреда: кроме него есть ещё присяжные, которые устанавливают виновность, судья, который выносит приговор, и палач, приводящий его в исполнение.

Роботы, подчиняющиеся Законам, могут испытать «роблок», или «умственное замораживание» — состояние необратимого повреждения позитронного мозга, — в случае если они не могут подчиниться Первому Закону или обнаруживают, что случайно нарушили его. Это возможно, например, если робот наблюдает сцену убийства человека, но находится слишком далеко, чтобы его спасти. Первый случай такого «замораживания» происходит в «Лжеце»; также немаловажную роль это состояние играет в сюжете романов «Обнажённое солнце» и «Роботы зари». Несовершенные модели роботов могут блокироваться, если перед ними поставили задачу подчинения двум противоречащим приказам. «Замораживание» может быть необратимым или временным. Разрешением противоречий и изучением поведения роботов занимаются робопсихологи, как один из персонажей Азимова — Сьюзен Келвин.

Иное определение вреда в Первом Законе

Законы никак не определяют границы того, что может называться вредом для человека — это часто зависит от возможностей робота воспринимать информацию и философски мыслить

Например, будет ли полицейский робот понимать, что он не нанесёт вреда человеку, если осторожно проводит особо опасного преступника в участок?. В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль

Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.

В рассказе «Лжец!» робот-телепат Херби вынужден был понимать под вредом и то, что может любым способом разочаровать или расстроить людей — он знал, что люди при этом испытывают некую душевную боль. Это заставляло его постоянно говорить людям вместо правды то, что они хотели услышать. В противном случае, в его понимании, он нарушил бы Первый Закон.

Лазейки в Законах

В «Обнажённом солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред».

Это дополнение проясняет, что робот может даже стать орудием убийства, если он не осведомлён о сущности своих действий. Например, ему могут приказать добавить что-то кому-то в пищу, а он не будет знать, что это яд. Более того, Бейли говорит, что преступник может поручить эту задачу нескольким роботам, так, чтобы ни один не понял замысла целиком.

Бейли утверждает, что солярианцы однажды смогут использовать роботов даже в военных целях. Если космический корабль будет построен с роботоподобным мозгом и при этом на нём не будет ни людского экипажа, ни систем жизнеобеспечения, то интеллект этого корабля может ошибочно предположить, что и на всех космических кораблях нет людей. Такой корабль будет более манёвренным, быстрым, а возможно и лучше вооружённым, чем управляемый людьми. Но самое главное, он будет способен уничтожать людей, не подозревая об их присутствии. Эта возможность описана в «Основании и Земле», где также выясняется, что солярианцы обладают чрезвычайно мощной армией роботов, понимающих под «людьми» только уроженцев Солярии.

Знают ли вообще современные роботы об этике

В реальности роботы и искусственный интеллект не исполняют три закона по определению — всё зависит от того, на что они запрограммированы, каковы их возможности и кто их хозяева. Условный робот-пылесос не обладает «разумом», который помог бы ему понять, нарушает он закон или нет. Даже самые сложные и продвинутые роботы сегодняшнего дня не могут понимать и интерпретировать «три закона». Тем не менее чем больше эволюционируют роботы, тем чаще встает вопрос об этических ограничениях.

Футуролог и идеолог трансгуманизма Ханс Моравек предложил адаптировать законы робототехники для «корпоративных разумов» — корпораций, управляемых ИИ и использующих роботов для изготовления своей продукции. Появление подобных фирм Моравек считал делом времени еще в середине 90-х, но пока что этика для корпораций остается инструментом маркетинга в большей степени, чем способом борьбы за общественное благо.

«Развитие ИИ — это бизнес, а бизнес печально известен тем, что не заинтересован в фундаментальных ограничениях, в особенности таких, которые носят философский характер», — писал в журнале Science Роберт Сойер, указывая на то, что именно военно-промышленный комплекс США — основной источник финансирования исследований в области робототехники. По мнению автора, пока военные больше других заинтересованы в создании искусственного интеллекта, никакая этика не проникнет в эту область. Возможно, только создание нового типа Машины Судного Дня поставит этический вопрос ребром.

Научная фантастика против волшебных палочек

В наше время научная фантастика стала исчезающим жанром. Сейчас в тренде готическая сказка, постапокалипсис, с точки зрения сегодняшних авторов, мир необъясним в дорогих сердцу Айзека Азимова категориях критического мышления и научного скепсиса. На это есть много причин.

Азимов прямой наследник Верна и Уэллса, с их верой в человека, технику и прогресс.

При его жизни научная фантастика стала популярнейшим жанром — и это, конечно, было связано с тем, что она отвечала тому, что думали и чувствовали миллионы. На глазах у людей создавался прекрасный новый мир, и интерес к научной фантастике был одним из отражений социального оптимизма, когда все хорошее и небывалое казалось осуществимым. Так происходило повсюду, в том числе и в СССР. Но уже в семидесятые все стало иначе — «Золотой век» подошел к концу, и все это поняли.

Оптимизму научно-фантастических утопий Азимова в новой реальности не было места. Ученые говорили о глобальном потеплении и новом вымирании видов.

В глазах людей мир утратил прочность, как следствие, обесценились попытки объяснить его рационально. Азимов всю жизнь боролся с лженаукой, а в новом, ХХI веке, в США стала бешено популярна астрология. На смену научной фантастике пришли романы Роулинг, волшебные палочки, летающие метлы и заклинания.

В мире Азимова все могла наука. В сегодняшнем мире возможно вообще все, даже самое невероятное.

И это прекрасный повод встретить 2020-й, перечитывая Айзека Азимова. Его уверенность в будущем, его оптимизм могут показаться наивными, но они нисколько не устарели.

Вера в познание и научный скептицизм могут выйти из моды, и все же они куда надеж­нее веры в силу звезд, магию и мистические сущности.

В наш век научная фантастика Азимова кажется лекарством от подступающих со всех сторон неопределенности и безумия.

Кадр из фильма «Я — робот», созданного по рассказам Азимова. Фото: РИА Новости

Биография

Родился (по документам) 2 января 1920 года

в местечке Петровичи Смоленской губернии, РСФСР (ныне Руссковское сельское поселение, Шумячский район, Смоленская область) в еврейской семье. Его родители, Анна-Рахиль Исааковна Берман (Anna Rachel Berman-Asimov, 1895—1973) и Юда Аронович Азимов (Judah Asimov, 1896—1969), были мельниками (по другим источникам, они владели крупорушкой). Назвали его в честь покойного деда по матери, Исаака Бермана (1850—1901).

В детстве он говорил на идише и английском. Из художественной же литературы в ранние годы он рос в основном на рассказах Шолом-Алейхема. В 1923 родители увезли его в США («в чемодане», как он сам выражался), где поселились в Бруклине и через несколько лет открыли кондитерский магазин.

В пять лет Айзек Азимов пошёл в школу в бруклинском районе Бедфорд — Стайвесант (ему полагалось пойти в школу с шести лет, но мать исправила его день рождения на 7 сентября 1919 года, чтобы отдать в школу на год раньше). После окончания десятого класса в 1935 году пятнадцатилетний Айзек Азимов поступил в Seth Low Junior College, но через год этот колледж закрылся. Он поступил на химический факультет Колумбийского университета в Нью-Йорке, где получил в 1939 году степень бакалавра (B. S.), а в 1941 году — магистра (M. Sc.) по химии и поступил в аспирантуру. Однако в 1942 году он уехал в Филадельфию и работал там химиком на армейской судоверфи. На той же верфи вместе с ним работал Роберт Хайнлайн, тоже писатель-фантаст.

Слева направо: Роберт Хайнлайн, Л. Спрэг де Камп и Айзек Азимов. 1944 г.

В феврале 1942 года, в Валентинов день, Айзек Азимов встретился на «свидании вслепую» с Гертрудой Блюгерман (Gerthrude Blugerman). 26 июля они поженились. От этого брака родился сын Дэйвид (David) (1951) и дочь Робин Джоэн (Robyn Joan) (1955).

С октября 1945 года по июль 1946 года он служил в армии. Затем вернулся в Нью-Йорк и продолжил образование. В 1948 году окончил аспирантуру, получил степень PhD (доктора) биохимии и поступил в постдокторат как биохимик. В 1949 году он устроился преподавателем на медицинский факультет Бостонского университета, где в декабре 1951 года стал ассистентом, а в 1955 году — доцентом. В 1958 году университет перестал ему платить зарплату, но формально оставил в прежней должности. К этому моменту доходы Айзека Азимова как писателя уже превышали его университетскую зарплату. В 1979 году ему было присвоено звание .

В 1960-е годы он находился под следствием ФБР за возможные связи с коммунистами. Причиной послужил донос об уважительном отзыве Айзека Азимова об СССР как о первой стране, построившей атомную электростанцию. Подозрения были окончательно сняты с писателя в 1967 году.

В 1970 году Айзек Азимов расстался с женой и почти сразу сошёлся с Джанет Опал Джеппсон, с которой познакомился на банкете 1 мая 1959 года. (До этого они встречались в 1956 году, когда он дал ей автограф, Айзек Азимов не запомнил той встречи, а Джанет Опал Джеппсон сочла его тогда неприятным человеком.) Развод вступил в силу 16 ноября 1973 года, а 30 ноября Айзек Азимов и Джанет Опал Джеппсон поженились. Детей от этого брака не было.

Скончался 6 апреля 1992 года в клинике Нью-Йоркского университета (Манхэттен, 550 1st Avenue, NY) от сердечной и почечной недостаточности на фоне ВИЧ-инфекции (приведшей к СПИДу), которой заразился при операции на сердце в 1983 году. О том, что он страдал от ВИЧ, стало известно лишь через 10 лет после его смерти из биографии, написанной Джэнет Опал Джеппсон.
По завещанию, его тело было кремировано, прах развеян.

Литературная деятельность

В 11 лет Айзек начал писать книгу о приключениях мальчиков, живущих в маленьком городке. Его хватило только на восемь глав. Написав первые две, он пересказал их своему другу, и тот потребовал продолжение. Когда же Айзек объяснил, что это пока всё, что он написал, его друг попросил дать почитать книгу, где Айзек прочёл эту историю. С того момента юный автор понял, что обладает писательским даром, и стал уже серьёзно относиться к своей литературной деятельности.

Впервые Азимов опубликовался в 1939 году. Это был рассказ «В плену у Весты» (англ. Marooned Off Vesta), принятый к публикации в октябре 1938 года журналом Amazing Stories и опубликованный 10 января 1939.

В 1941 году был опубликован рассказ «Приход ночи» (англ. Nightfall) o планете, вращающейся в системе шести звёзд, где ночь наступает раз в 2049 лет. Рассказ получил огромную известность (согласно Bewildering Stories, он был одним из самых известных из когда-либо публиковавшихся рассказов). В 1968 году Американская ассоциация писателей-фантастов объявила «Приход ночи» лучшим из когда-либо написанных фантастических рассказов. Рассказ более 20 раз попадал в антологии, дважды был экранизирован, и сам Азимов впоследствии назвал его «водоразделом в моей профессиональной карьере». Малоизвестный до тех пор фантаст, опубликовавший около 10 рассказов (и ещё примерно столько же были отвергнуты), стал знаменитым писателем. При этом сам Азимов «Приход ночи» своим любимым рассказом не считал.

10 мая 1939 года Азимов начал писать первую из своих историй о роботах, рассказ «Робби» (англ. Robbie). В 1941 году Азимов написал рассказ «Лжец!» (англ. Liar!) о роботе, умевшем читать мысли. В этом рассказе начинают появляться знаменитые Три закона роботехники. Азимов приписывал авторство этих законов Джону В. Кэмпбеллу, сформулировавшему их в беседе с Азимовым 23 декабря 1940 года. Кэмпбелл, однако, говорил, что идея принадлежала Азимову, он лишь дал ей формулировку. В этом же рассказе Азимов придумал слово «robotics» (робототехника, наука о роботах), вошедшее в английский язык. В переводах Азимова на русский robotics также переводят как «роботехника», «роботика».

В сборнике рассказов «Я, робот», принёсшем писателю всемирную известность, Азимов рассеивает широко распространённые опасения, связанные с созданием искусственных разумных существ. До Азимова в большинстве историй о роботах они бунтовали или убивали своих создателей. Роботы Азимова — не механические злодеи, замышляющие уничтожить человеческий род, а помощники людей, нередко разумнее и человечнее, чем их хозяева. С начала 1940-х годов роботы в фантастике подчиняются Трём законам робототехники, хотя по традиции ни один фантаст, кроме Азимова, не цитирует эти законы явно.

В 1942 году Азимов начал серию романов «Основание» (англ. Foundation). Изначально «Основание» и рассказы о роботах относились к разным мирам, и лишь в 1980 году Азимов решил их объединить.

С 1958 года Азимов стал писать гораздо меньше фантастики и гораздо больше научно-популярной литературы. С 1980 он возобновил написание научной фантастики продолжением серии «Основание».

Тремя любимыми рассказами Азимова были «Последний вопрос» (англ. The Last Question), «Двухсотлетний человек» (англ. The Bicentennial Man) и «Уродливый мальчуган» (англ. The Ugly Little Boy), в этом порядке. Любимым романом были «Сами боги» (англ. The Gods Themselves).

Три закона робототехники: вымысел и реальность

Мысль о том, что искусственное существо откажется подчиняться хозяину, давно тревожит ученых, писателей, мыслителей и простых обывателей.

Несложные правила накладывают на действия механических созданий ряд ограничений, поэтому человечество может отвлечься от размышлений о машинном бунте и смело шагать по дороге прогресса в сопровождении послушных и выносливых помощников.

Шло время, росла мощность вычислительной техники, появлялись и совершенствовались механизмы, разговоры об искусственном интеллекте выходили за пределы академических кругов. Но страх перед умными и своевольными машинами отнюдь не уменьшался. Азимовские законы стали всерьез рассматривать ученые, которые разрабатывают машины с программным управлением. Кажется, что стоит понять, как донести их до роботов, и наступит новая эра, но так ли это?

Применимость к технологиям будущего[править]

ASIMO компании Honda наиболее совершенный гуманоидный робот в мире.

Работы в области искусственного интеллекта рассматривают Законы робототехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые люди утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам, а именно они главный источник финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это для других отраслей промышленности:

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце»

Однако есть и возражения против этой позиции, в которых говорится, что военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы Робототехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

1. Робот не может причинить вреда авторизованным правительственным служащим, но должен ограничивать слишком назойливых посетителей.
2. Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
3. Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот — чертовски дорогостоящая штука.

Роджер Кларк написал две работы, повящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет: «Азимовские Законы робототехники стали успешным литературным инструментом. Возможно по иронии, а может это был мастерский ход, но в целом, азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил» . С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек (выдающаяся фигура в трансгуманистическом движении) высказал предложение, что Законы робототехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. (Такие системы, по его мнению, скоро возникнут.)

В году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым законы роботехники.

Нулевой закон робототехники

Азимов не ограничился тремя правилами, которые изложил в ранних рассказах своего знаменитого цикла. Нулевой закон робототехники появился позже, но писатель поставил его над остальными, так как хотел подчеркнуть значимость этого догмата. Вот его формулировка:

Забота обо всей человеческой расе, а не только об отдельных ее представителях, — благородная и ответственная миссия. С этой задачей трудно справиться, если учесть, что Нулевой закон противоречит трем другим, особенно Первому.

Понять, опасен ли какой-то фактор для всех людей, непросто, а справиться с глобальной угрозой одному роботу или целой группе вряд ли по силам. Если же опасность исходит от самих людей, можно ли позволять машине лишать жизни тех, кого в норме нужно оберегать? В конце концов, неумолимая логика искусственного разума способна принять за угрозу то, чего люди не опасаются

Поэтому о пользе этого важного правила можно говорить с натяжкой

Три закона робототехники Айзека Азимова

Классик мировой фантастики сформулировал три основных правила поведения роботов, которые в теории должны быть заложены в роботах на уровне инстинктов. Они приписывали роботам некоторые ограничения действий, которые наделяли механизмы эмоциональной составляющей.

Появление законов

До формулирования трёх законов робототехники вся научная фантастика преподносила роботов как нечто угрожающее существованию человека. В произведениях часто встречался сюжет истребления роботами человечества. Азимов же, в своих рассказах пописывал устройства наделённые качествами, напоминающими совесть, честность, преданность.

В 1940 году беседа Азимова с его другом Джоном Кэмпбеллом по поводу последних новостей научной фантастики закончилась описанием трёх постулатов. По словам Кэмпбелла, он извлёк их из уже существующих произведений Айзека.

Значение законов

Обязательные правила поведения для всех роботов подчёркивают главенство человека над созданными им механизмами. Основной посыл заключен в приоритетной безопасности любого действия или бездействия устройства.

Однажды, в 1986 году в романе «Роботы и Империя» Айзек Азимов добавил нулевой закон. Добавление дополнительно закона обосновано его приоритетностью относительно остальных.

Нулевой закон утверждает, что действия робота должны быть направлены на интересы человечества, а не только отдельно взятого человека.

Другие случаи в фантастике[править]

Сам Азимов верил, что его Законы станут основой нового взгляда на роботов, уничтожающего «комплекс Франкенштейна»; новых рассказов, где они стали бы привлекательны. Любимым его примером были «Звёздные войны». С его мнением, что роботы — нечто большее, чем просто «тостеры» или «механические монстры», в конечном итоге согласились и другие фантасты. В их произведениях появились роботы, подчинявшимся Трём законам, но традицинно только Азимов говорил о них явно. А в случаях, где звучали Три закона, нередко упоминался и сам их автор. Однако сериал 1960-х «Raumpatrouille — Die phantastischen Abenteuer des Raumschiffes Orion» («Космический патруль — фантастические приключения космического корабля Орион»), а именно третий его эпизод «Hüter des Gesetzes» («Служитель Закона»), включает азимовские законы без указания источника.

Три Закона робототехники в фильмахправить

Робби-Робот в «Запретной планете» 1956 г. имел иерархическую структуру команд, которая не позволяла ему причинить вред людям, даже по приказу (такие приказы вызывали конфликт логических схем и блокировку). Робби был одним из первых роботов в кинематографе c встроенными мерами безопасности. Сам Азимов остался доволен Робби.

Файл:Bicentennial-man-three-laws.jpg НДР-114 объясняет Три закона

Фильмы по мотивам работ Айзека Азимова ставились несколько раз, с различной степенью финансового успеха и возникавшей критики. Некоторые наиболее известные — связаны с историями про роботов и Тремя законами робототехники. Фильм «Двухсотлетний человек» 1999 года, представляет робота NDR-114 (серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера), Эндрю Мартина, процитировавшего Три закона своим хозяевам как «развлекательную презентацию» с использованием своего голографического проектора. Стоит отметить, однако, что Законы не занимают центральное место в сюжете фильма.

Сценарий «Я, робот»Харлана Эллисона начинается с введения в концепцию Трёх законов, а проблемы, вытекающие из них, занимают большое место в сюжете. Сценарий собран из четырёх коротких историй Азимова (три из которых — из серии «Я, робот»); эта адаптация в большой степени соответствует оригиналам. Вследствие некоторых осложнений с Голливудской студией, по отношению к которой Эллисон высказывал обвинительные речи, его сценарий не экранизировался.

Фильм 2004 г., названный «Я, робот», значительно менее схож с Азимовсими историями.