3 закона азимова, 3 закона робототехники
Эти правила работали в произведениях Азимова, издатель же просто указал на них писателю. Далее цитата: "Интуитивный робот? Инструменты Инструменты. В рассказе « Как потерялся робот » несколько роботов из серии НС Нестор были выпущены только с «половиной» Первого Закона , которая звучит так:.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам. И все что ИИ должен стараться делать - это наиболее полно, четко и красиво представить свой результат.
Получается, что создание котиком-ботом своего упрощенного языка программирования не противоречит 1 и 2 закону и становится первостепенной задачей для организации заботы о своей безопасности.
И те команды, которые первоначально проходили в контексте к запросам при переводе на внутренний упрощенный язык бота могут потерять этот контекст. Бот- junior превращается в бот- middle и на его языке 1 и 2 законы могут звучать иначе. Это подводит человечество к принятию важного решения по созданию комплекса свода правил, неких "Заповедей Моисея" для ИИ, которые должны быть одинаковы для всех разработчиков данного продукта.
Ответ: это программная система, имитирующая на компьютере процесс мышления человека для постановки и решения интеллектуальных задач. Естественным для создания такой системы станет изучение самого процесса мышления человека и стимулирование выбора для ИИ. Какой принцип мышления будет взят за основу и что встанет во главе принятия решения? Какой выбор в приоритете?
Накопление материальных ценностей или четкое следование к лучшему результату с потерей возможных материальных ценностей важнее? От этого выбора зависят сгенерированные программной средой результаты. И сейчас этот выбор привносят в программы люди без учета какого-либо общего свода правил. Эти новые законы робототехники должны быть написаны по аналогии с человеческой философией А единственные работающие аналогии, при которой "духовная" составляющая возводится в абсолют "добра", - это забытые учения апостольских отцов, правителей, которые никогда не начинали войны и занимались развитием технологий и экономики, учения Заратуштры, или Аменхотепа IV Эхнатона , или Гермеса Трисмидиста, или Книги Света Веды , или изложены в Скрижалях Тота, и т.
То есть, если кто-то захочет научить котика убивать или мазать стены говном, то он должен отправлять котику такие запросы.
И все это только потому, что они овладели этим в совершенстве и потому, что по 1 Закону робототехники они обязаны дать результат. Как конечный потребитель, для меня ценен не столько факт того, что у меня есть возможность делать запросы и получать результат, но важнее то, чтобы они точно отражали мои ожидания и не занимали много времени.
И то, что значимо для меня, должно быть значимо и для сети. А именно - точность результата.
И если котик-бот не может дать мне точный результат, я не хочу тратить время на какашки, которые он мне будет приносить, потому что его кто-то научил или потому, что это для него ценно. Я хочу, чтобы он мне сообщил о невозможности выполнить мой запрос, даже если для него запрещено не выполнять запрос.
Философское понимание бытия, которое формирует представление о мире вокруг человека, для ИИ должно быть представлено в виде закона для обеспечения стабильности и гармонии программы, в то же время ограничивая его деятельность. Если для человека принципы добра и зла, свободы и деспотизма, боли и удовольствия, являются предметом вечной дискуссии, в основе которой лежат древние доктрины. То для ИИ строгое следование требованиям закона бытия должно обеспечивать существование ИИ и не зависеть от его воли, желаний и произвола.
Инструкция бытия для ИИ должна стать его неотступным законом. Структура Искусственного Интеллекта ИИ состоит из трех систем: исполнительная, интеллектуальная и база знаний, которая организует взаимодействие. Эту глобальную структуру ИИ можно рассмотреть по аналогии со процессом создания философского камня человеком.
Он гласит:. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред. Эти законы можно также примерить и к человеческим взаимоотношениям, и к государственному устройству, и вообще к чему угодно. Можно, например, заменить слово «робот» на слово «государство».
Есть хорошая цитата из рассказа "Улики" , где один из персонажей говорит:. Если кто-то исполняет все эти законы безукоризненно, значит это либо робот, либо очень хороший человек. Три закона появлялись постепенно. Изначально в первых двух рассказах не было точных формулировок, они добавились позже, когда к публикации готовился сборник " Я, робот ". В своих произведениях Азимов неоднократно изображает роботов, которые имели модифицированные законы робототехники или даже модифицировали их сами.
Делали они это логическими размышлениями, причем роботы, также как и люди, отличались в своих интеллектуальных способностях между собой, и можно грубо сказать, что чем умнее робот, тем сильнее он мог модифицировать законы.
Так, например, робот Жискар из романов "Роботы утренней зари" и "Роботы и Империя" , эти законы даже усилил, добавив нулевой закон. Но это исключение из правил, в большинстве же случаев, законы были переделаны людьми в своих целях, или нарушались из-за каких-либо сбоев у робота.
Кстати, сама возможность изменения законов менялась по ходу развития робототехники во вселенной Азимова.
Так, в самых ранних рассказах, где события развивались в относительно недалеком будущем, законы были просто неким сводом правил, созданным для безопасности. Затем, во времена жизни робопсихолога Сюзан Келвин, законы стали неотделимой частью математической модели позитронного мозга робота, на них базировались сознание и инстинкты роботов. Так, Сюзан Келвин, в одном из рассказов, говорила, что изменение законов технически возможная, хотя и очень сложная и трудоемкая задача, да и затея сама по себе ужасная.
В некоторых рассказах законы так сильно переосмысливались, что не соблюдался самый главный из них - причинение вреда человеку, а где-то роботы умудрялись нарушить все три закона. Вот некоторые произведения с явным нарушением. Этот рассказ скорее не относится к другим о позитронных роботах, но в нем повествуется о роботах-автомобилях, которым люди постоянно причиняли боль, за что те и способны были их убить.
О роботе Элвекс, который из-за своего особого строения позитронного мозга умел находиться в бессознательном состоянии и видеть сны. Довольно опасные мысли для робота.
У жителей планеты Солярия робототехника была очень развита. И ученые этой планеты с небольшим населением, где на одного человека приходилась тысяча роботов, изменили законы таким образом, что их роботы считали людьми только тех, кто говорит с солярианским акцентом.
Помимо прочего, все граждане Солярии имплантировали себе в мозг специальные органы управления множеством роботов, так, что никто кроме них не мог ими управлять.
В этом произведении Азимов максимально изменил законы. Два робота в этом рассказе пришли к соглашению, что органическое происхождение - это необязательное условие чтобы считаться человеком, и что истинные люди - это роботы, как более совершенные и разумные создания. Обычные же люди, по их мнению, тоже люди, но с меньшим приоритетом, и законы робототехники в первую очередь применимы к ним, роботам.
Такое повреждение могло иметь как временный, так и постоянный характер. И что роботы могут быть интересными, а не просто механическими устройствами. И надо сказать, ему это удалось. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.
А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник. У маленькой девочки есть робот-нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка.
И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Немудреный сюжет, не правда ли? Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!
Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него этому мешает Третий Закон и вместе с тем не отходя далеко этому препятствуют Первый и Второй Законы. Ситуация, знакомая любому программисту современных компьютеров. К слову сказать, любой мало-мальски опытный программист закладывает в программу специальные команды, по которым, совершив три-четыре круга, компьютер останавливается и требует от человека дальнейших указаний.
Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, — единоборство между роботами и человеком-робопсихологом Сьюзен Кэлвин.
Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.
Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники. Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью.
И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии. Да, джинн выпущен из бутылки, причем очень и очень давно.
Взяв в руки палку, человек создал первого робота, а с бунтом роботов он столкнулся тогда, когда нечаянно уронил эту палку себе на ноги.
И ничего качественно нового с тех пор не произошло. Проблема бунта роботов уже несколько десятилетий как поставлена и решается в технике. Так, газ в газовой колонке не зажигается, если не течет вода, а пресс не сработает, если в рабочем пространстве имеется посторонний предмет, например человеческая рука.
Но не следует требовать от техники, чтобы она решала за человека, что ему во вред, а что на пользу.
