Три правила робототехники, Nicole z Četníků milovala děsivého a duševně nemocného muže. Geneviève Grad žije v ústraní
Это произошло в одной из финальных сцен романа « Роботы и Империя ». Перебирал на днях свою библиотеку и наткнулся на интересную книгу. Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. Первая полоса Трудности перевода: серия Mafia и ругательства.
Но представим, что инструкцию составили неправильно, забыли какой-то шаг. Робот выполнит все, как ему сказали, ошибется, да еще и сделает это в десятки раз быстрее человека.
Решить проблему помогают другие интеллектуальные технологии, а именно — процессная аналитика. Они изучают, как выстроен бизнес-процесс в компании, определяют, с какими из задач справится робот, и позволяют учить их более эффективно. Роботы Азимова были универсальными: один персонаж мог и нянчиться с ребенком, и собирать детали на заводе.
Современные же технологии почти всегда используются для конкретных задач. Если алгоритм оценивает закупки и находит оптимальных поставщиков, то он не может за один день переучиться выдавать кредиты. Впрочем, благодаря развитию transfer learning neural architecture search машины уже умеют получать дополнительные навыки в смежных областях. Например, если нейросеть анализирует рисковые факторы в новостях о банках, можно научить ее работать с похожими сообщениями о производителях сырья, фермах, а также читать новостные ленты на других языках.
Персонажи книги «Я, робот» решали задачи науки. Они выполняли эксперименты, искали ресурсы на далеких планетах и собирали образцы для новых исследований. Технологические разработки нашего времени в первую очередь нужны крупным корпорациям. Посмотрим, кто на мировом рынке активно работает с ИИ.
Будь то обработка естественного языка, компьютерное зрение или распознавание голоса, список один и тот же: Google, Facebook , Microsoft , Amazon. Их совокупные инвестиции в ИИ превышают триллионы долларов.
В гонку включился и российский бизнес. Как в эту картину мира вписывается Азимов со своим гуманизмом, принципом «не навреди», верой в то, что роботы должны помогать человечеству?
Все решило общественное мнение. Последний десяток лет компании работали с ИИ так же, как и с любым другим инструментом. Инвестировали деньги, чтобы сократить затраты: уволить больше людей и стать эффективнее.
Но оказалось, что такое отношение к ИИ приносит компаниям убытки. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Текст из википедии. Законы гласят: 1. Robots and Empire Азимов предложил Нулевой Закон: 0. Картинка из ЖЖ dpmmax Текст из википедии. Скриншот Три закона робототехники Биометрическая аутентификация Dpmmax. Все комментарии Автора. Рассказ посвящён вопросу о различии человека и робота, созданного чтобы выглядеть человеком. Кэлвин утверждает, что если кто-то следует законам, то он «или робот, или очень хороший человек».
А на вопрос, есть ли тогда большая разница между роботом и человеком, она отвечает: «Огромная разница. Прежде всего, роботы глубоко порядочны». Позже, в уже упоминавшемся эссе «Законы робототехники» [1] , Азимов отмечает, что подобные законы справедливы для всех созданных человеком инструментов :.
Есть мнение, что эти три закона могут быть применены к любой человеческой креатуре созданной для блага человека. В этом случае, под это определение попадают любые социальные институты, в т.
На основе первого закона Джеф Раскин сформулировал законы человекоориентированных интерфейсов [5] :. В своих рассказах Айзек Азимов привносит в Три закона различные модификации и опровергает их, как бы испытывая Законы «на прочность» в разных обстоятельствах.
Айзек Азимов однажды добавил Нулевой закон , сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества , а не только отдельного человека. Робот Дэниел Оливо в романе « Роботы и империя » был первым, кто дал этому закону имя, а ещё раньше Сьюзен Келвин сформулировала это понятие в новелле « Разрешимое противоречие ». Первый робот, который стал подчиняться Нулевому закону — Р. Жискар Ривентлов. Это произошло в одной из финальных сцен романа « Роботы и Империя ».
Однако это негативно повлияло на его позитронный мозг , потому что он не был уверен, насколько его выбор подчиняться Нулевому закону был полезен для человечества. Жискар — телепатический робот, подобный Херби, который был в «Лжеце». Он пришел к пониманию Нулевого Закона через более тонкое, чем у всех остальных роботов, осознание понятия «вреда». Нулевой закон не был запрограммирован в Жискара — но он пытался прийти к нему через чистое понимание.
Когда Жискар вышел из строя, он передал Оливо свои телепатические способности. Через много тысяч лет Дэниел смог полностью приспособить себя подчиняться Нулевому закону.
Один переводчик невольно сформулировал Нулевой закон в рассказе ещё тогда, когда сам писатель не описал его явно. Ближе к концу в « Стальных пещерах » Элайдж Бейли замечает, что Первый закон запрещает роботу наносить человеку вред, если только не будет уверенности, что это будет полезно для него в будущем. Жака Брекара мысли Бейли переданы несколько иначе:.
В обратном переводе это означает: «Робот не может причинить вреда человеческому существу, если только он не докажет, что в конечном итоге это будет полезно для всего человечества». В рассказе « Как потерялся робот » несколько роботов с названием НС-2 Нестор были спроектированы только с «половиной» Первого закона, которая звучит так:.
Это было сделано из практических соображений: роботы работали вместе с людьми, которые подвергались воздействию небольших безопасных доз радиации , — но каждый раз первые принимались «спасать» людей. Так как позитронный мозг уязвим для гамма-лучей , роботы постоянно выходили из строя.
Гайя , планета коллективного разума в серии романов «Основание» обладает нечто похожим на Первый закон:. Три раза в истории своей литературной деятельности Азимов изобразил роботов, которые смогли нарушить Три закона, в противовес роботам Дэниелу и Жискару, которые усилили их добавив Нулевой закон, см.
Следует заметить, что для нарушения всех Трёх законов роботу достаточно нарушить Первый закон, так как остальные два основываются на нём. Первый такой случай был в рассказе « Первый закон », когда робот МА-2 Эмма отказалась защитить человека в пользу своей «дочери». Часто этот рассказ называют «небылицей» или «недостоверным». Второй случай был в рассказе « Кэл »: робот, которого собирались лишить способности творить, захотел убить своего хозяина [7].
Третий — это рассказ « Салли », в котором автомобили , оборудованные позитронными мозгами, оказались способны убить человека который причинил им боль. Этот рассказ, однако, не ссылается на другие рассказы о позитронных роботах и не может быть включён в цикл. В его снах роботы не обладали первыми двумя законами, а третий звучал так: «Робот должен защищать себя».
Азимов занимал разные позиции относительно строгости Законов: сначала они были просто хорошо спроектированными ограничениями для робота, в последующих рассказах писатель указал, что Законы — неотъемлемая часть математической основы позитронного мозга. Без этой теоретической основы — «Фундаментальной теории стандартных схем» — учёные Азимовских произведений не смогли бы создавать новые работающие образцы позитронных мозгов.
Существует историческая закономерность: случаи, когда робототехники изменяют Законы, происходят раньше по хронологии , когда ещё нет огромного объёма работ, который нужно переделать. В «Как потерялся робот» Сьюзен Келвин признаёт изменение Законов ужасной затеей, но возможной; а позже, в «Стальных пещерах», доктор Джерригел говорит, что это невозможно. Азимов называет таких роботов «Asenion» Asenion — это искажённое написание фамилии «Asimov», которое придумал редактор журнала «Planet Stories».
Азимов употребил это туманное название как ссылку на себя в рассказах — сравните с камео в кинематографе. Впервые это название встречается в «Стальных пещерах», в русском переводе для описания этого явления применялось понятие контур дружбы. Персонажи произведений Азимова часто отмечают, что законы — это не вербально записанные предложения в памяти робота, а абстрактные математические формы, на которых базируется всё сознание робота.
Законы сродни человеческим инстинктам , таким как инстинкт самосохранения. Следовательно, именно они намечают путь самоопределения роботов: робот предназначен обслуживать людей, подчиняться их приказам, и не думать о своих ограничениях или возможной независимости. Этот принцип более туманен и неясен в ранних по хронологии сюжета произведениях, где роботы создавались как средство механизации для облегчения труда человека и были «элементарными», Законы представляли нечто вреде устава по мерам безопасности ; но во времена «Стальных пещер» и роботов с почти человеческим интеллектом, Три закона робототехники стали одной из основ мировоззрения , определяющей поведение всех роботов.
Солярианцы стали создавать роботов, подчинявшихся Трём законам, но имевших другое понимание слова «человек». Роботы на этой планете были обучены тому, что «человек» — это только тот, кто говорит с солярианским акцентом.
Роботы без проблем могли причинить вред не-солярианцу и они специально программировались для этого. Во времена « Основания и Земли » выяснилось, что солярианцы широко использовали генные технологии , и помимо всего прочего, имплантировали биологические органы управления целым множеством своих роботов.
Таким образом, эти роботы стали исполнять Три закона лишь по отношению к людям Солярии, в ущерб остальной части галактики. Азимов несколько раз обращается к проблеме гуманоидных роботов, или андроидов. Роман « Роботы и Империя », а также рассказы «Улики», « Заминка на праздновании Трёхсотлетия » описывают роботов, созданных, чтобы притворяться людьми.
