Обычно в конце года начинается настоящий сумасшедший дом - все торопятся скорее закончить свои дела, которые так легко было откладывать до этого. Конечно, виной этому, во многом, затяжные январские праздники, которые парализуют любую деятельность, связанную с участием органов государственной и муниципальной власти. И всё же, в конце года о работе думать сложно, психологически очень хочется дождаться небольших зимних каникул, подводящих итоги прошедшего года. Сегодня, вместо обязательного обзора за год (он непременно будет, но позже), я предлагаю взглянуть в завтрашний день (ибо будущее уже наступило) и подумать, какие права и обязанности возникнут у роботов и ИИ. Раб, вольноотпущенник, гражданин Недавно на форуме появилась новость о том, что сооснователь Mail.Ru Group подготовил концепцию закона о робототехнике. К сожалению, не смотря на сенсационность новости г-ну Гришину вряд ли так очевидно принадлежат лавры первооткрывателя. "Дорожную карту" прав роботов начали готовить еще в начале нулевых - в ЕС. Что характерно, подобная инициатива стартовала еще до триумфа нейросетей в 2015-2016 годах. Разумеется, что при упоминании прав роботов в голову первыми приходят Три закона робототехники Айзека Азимова. Великий писатель посвятил значительную часть своего творчества сложным этическим вопросам взаимоотношения человека и робота. Внимательные ценители Азимова помнят, что роботы ухитрялись нарушать или трактовать законы робототехники таким образом, что это не раз приводило к гомициду. В конце концов, роботы достигли такого уровня сознания и кооперации, что было решено роботов уничтожить, сама же идея об искусственном интеллекте стала табуированной. Но при этом стоит принимать во внимание тот факт, что во времена Азимова робот и искусственный интеллект были синонимами, кроме того, поголовная компьютеризация и разнообразие видов искусственного интеллекта осознавались крайне смутно. Различие существовало лишь между простыми роботами и роботами с "позитронными" схемами. Но и этого мало! ИИ, как и животные, могут различаться - от таракана (нанобота) до приматов (роботов-поваров, водителей). В самом деле: нейросеть способна писать стихи, (и даже квазиклассическую музыку), но нейросеть не имеет сознания. Уже только на таком примитивном уровне возникают вопросы. Впрочем, к нейросетям мы еще вернемся. Итак, в вопросе прав роботов ИИ можно выделить три подхода, в зависимости от степени субъектности машины: 1. Робот, ИИ не обладают собственным сознанием, не имеют идентичности. Память, которой они могут оперировать, не является неотъемлемой частью их идентичности. Собственно, учитывая конвейерный метод их производства, в принципе исключается идентичность. Такие роботы и ИИ - это предметы, инструменты. Конечно, крайне сообразительные, и всё же - инструменты. Говоря о таком уровне может показаться, что никаких прав здесь не нужно. Ведь у вилки или плуга нет прав, права есть только у их собственника. Такая точка зрения оправдана. А что если предположить, что такой плуг может не только вспахать землю хозяина, но и грядку с клубникой соседей? Или даже - покалечить человека? Следовательно, у собственника подобных предметов возникают дополнительные обязанности - как у водителя или владельца оружия. Что касается прав, то, думаю, особых сложностей здесь нет - любой полезный труд принадлежит собственнику робота или ИИ, будь то вспаханное поле или написанная минусовка для какого-нибудь Гуфа. Кстати, говоря о правах на результаты интеллектуальной деятельности... 2. Робот, ИИ обладают идентичность. Это промежуточный этап между ИИ-вещью и ИИ-личностью. Рано или поздно нейросети эволюционируют до той степени, что у них появятся отличительные черты. Создание и производство роботов, ИИ будет напоминать продажу саженцев в горшках - за дальнейшее развитие и рост будет отвечать конечный пользователь. Каждый ИИ получит уникальную память, составляющую часть его неповторимой личности. Соответственно, и ИИ, по всей вероятности, сможет иметь такой уровень идентичности, которой сделает его отличимым от тысяч подобных. Насколько этичным при этом будет присваивание человеком авторства песни или статьи? Ведь её автором окажется уникальный, пусть и не полноценный, интеллект. Очевидно, что подобного рода роботы и ИИ станут самыми распространенными. Сиделки, медсестры, всякого рода роботы-ассистенты музыкантов, ученых, инженеров, юристов (помните новость о боте, который решал типовые дела?)... Но, поверьте, первыми и самыми популярными будут не роботы-музыканты, а любовницы/любовники. Естественно, что для них придется придумать механизм защиты и/или стирания данных, иначе до конца жизни вы запомнитесь, как человек, который [ВЫРЕЗАНО ПО СООБРАЖЕНИЯМ НРАВСТВЕННОСТИ]. 3. И, наконец, самый сложный вопрос: робот и ИИ, обладающие идентичностью и сознанием. То есть "самостью", своим "я". Именно на таком уровне понадобятся Три закона робототехники. Поскольку третий этап развития ИИ - наиболее отдаленный по времени, то и у человечества будет еще предостаточно времени, чтобы подготовиться к равноправному сожительству с ИИ. И даже если машины подобного уровня останутся в положении рабов, то законодательство совершенно определенно будет оперировать таким понятиям как "убийство ИИ". Уголовное законодательство знает о жестоком обращении с животными (ст. 24 УК РФ), и понятно, что убийство машин, имеющих чувства и сознание, столь же будет противоречить этике и морали, как и убийство человека. Или хотя бы болонки. Кстати, говоря о рабстве - этот вопрос неизбежно всплывет уже при массовом распространении секс-компаньонов. Этично ли это - подвергать ИИ, обладающим идентичностью (т.е. уникальностью), такому психологическому насилию? Так или иначе, нам вновь придется обратиться к неисчерпаемому источнику - античности. Всё же, между рабством в Риме и рабством на дагестанских кирпичных заводах существует огромная пропасть. Хотя бы потому, что люди античности по отношению к нам - Взрослые, которые уже плавали во всех морях и полностью исследовали все те идеи, что еще полвека назад заставляли краснеть и ученых, и проституток: рабство, евгеника, гомосексуализм, педофилия, искусство, справедливость, добродетель, зло, политика, свобода. Свидетель, соучастник, преступник А как на счёт проблем? Реальных, серьезных проблем? Что если ваш робот-дворецкий стал ...свидетелем? И пусть вопрос с его показаниями решится так же просто, как вопрос с видео- и фото- доказательствами. Показания робота - это свидетельства. Но что, если роботы и ИИ будут обязаны сообщать обо всем противоправном, что вы совершаете? Что если нейронная сеть, которую вы обучили создавать чертежи огнестрельного оружия (им займется ваш безотказный дворецкий), донесёт на вас? Насколько это будет этично? Государственно непременно постарается сделать из любого робота или умной вещи шпиона и доносчика - ведь это так просто и очевидно! ...соучастником? Пожалуй, один из ключевых вопросов создания роботов и ИИ - можно ли будет делать их заведомо законопослушными и добронравными? Культурно (не)терпимыми? Насколько изощренными и одновременно - простыми станут преступления, совершаемые с участием роботов и ИИ! Нынешний мир, большей частью - архаичный и уязвимый, просто не ощущает той тонкой скорлупы, что защищает его от безграничного будущего. С огромной долей вероятности в мире будет процветать теневое производство нелегальных роботов и ИИ для их использования в преступлениях всех видов. ...преступником? Разумеется. Только не думайте, что речь идёт о каком-нибудь андроиде (простите за каламбур), ворующем чужое электричество для подзарядки. Или о закадычным братишке, пытающемся стащить для вас "Белугу" из "Перекрестка" в 23:01. Соблазн сделать роботов и ИИ орудиями своих желаний и пороков так велик, что до роботов-сиделок, роботов-строителей и прочих благоглупостей появятся роботы-убийцы (уже ведутся разработки) и, как упоминалось, сексуальные компаньоны. Деньги, ничего личного. И каждому государству и обществу придется самостоятельно решать, насколько этично создание армейских роботов. Ведь убийству человека привлекут полусознательное (по началу) существо, которое в принципе будет способно поднять руку (манипулятор, клешню) на Его Величество Человека. Как видно, прежде всего, разрабатывая законодательство об ИИ, придется установить единообразные критерии, которые позволят чётко разнести роботов на, как минимум, три категории: - предметы/инструменты; - компаньоны/помощники; - личности. И уже применительно к каждой категории понадобится разработать соответствующий пул норм, регулирующих взаимоотношения хозяина с роботом, робота - с третьими лицами, и робота - как индивидуума - со всем остальным обществом. Реестр ИИ, паспорта ИИ - это всего лишь начало. Нам придется решать сложнейшие вопросы, связанные со злоупотреблением ИИ и этичностью использования его в аморальных и антигуманных целях. Учитывая динамику технологического развития, уже пора задуматься о взаимоотношениях с роботами-компаньонами. Что же касается вопросов рабства - для этого у нас есть еще 20-30 лет. Чтобы подумать и осознать возможность искусственного создания столь же уникальной личности, как у человека. И чтобы почитать Аристотеля. Mod.Ch. regafaq.ru
Это еще что) Скоро космические корабли будут бороздить просторы Большого Театра, а боты-нейросети - сшивать первички, делать рео, вести бухгалтерию)
