История Искусственного Интеллекта

ОГЛАВЛЕНИЕ

СОДЕРЖАНИЕ

ВВЕДЕНИЕ

1. ПРЕДЫСТОРИЯ ВОЗНИКНОВЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

2. ИСТОРИЯ РАЗРАБОТКИ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

3. СОВРЕМЕННОЕ СОСТОЯНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

4. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ. ВЗГЛЯД В БУДУЩЕЕ

ЗАКЛЮЧЕНИЕ

СПИСОК ЛИТЕРАТУРЫ

ВВЕДЕНИЕ

Актуальность исторического исследования. Одним из приоритетных направлений исследования в области Computer Science (Компьютерных наук) является искусственный интеллект. Это важно потому, что люди не совершенны. Они устают, испытывают эмоции и очень часто думают не рационально. Кроме того, в самой человеческой природе есть изъян, который порождает преступность, коррупцию и прочие нежелательные явления. Роботы лишены этих недостатков. Тем не менее, для того, чтобы заменить людей в критических областях, роботы должны иметь интеллект как у людей. Однако, сама идея создания искусственного интеллекта и замена людей роботами очень противоречива и требует ответа на ряд философских вопросов:

— какова будет роль человека в мире, где практически всю работу за людей будут выполнять роботы;

— морально-этические проблемы, возникающие при создании искусственных мыслящих существ;

— возможные риски выхода искусственного интеллекта из под контроля и как их предотвратить;

— возможно ли в принципе создать искусственный интеллект?

Ответы на эти и другие вопросы требует анализа современных философских воззрений, научных данных о человеческом мозге и сознании, а также некую экстраполяцию развития технологий искусственного интеллекта в будущее, для чего необходимо провести исторический анализ развития данных технологий.

Объект исследования. Объектом исследования в рамках данного реферата является история Computer Science. Данная наука в широком смысле слова включает в себя такие науки и научные дисциплины, как информатика, кибернетика, математическая лингвистика, искусственный интеллект, программная инженерия, а также другие специальные технические дисциплины, связанные с компьютерами.

Предмет исследования. Предметом исследования в рамках настоящего реферат является история искусственного интеллекта, как подраздела Computer Science. Такая дисциплина как искусственный интеллект, включающая в себя методы автоматизации когнитивной деятельности человека, в том числе компьютерное зрение, эмуляцию работы нейронов головного мозга, обработку естественного языка, различные эвристические алгоритмы и методы оптимизации.

Цели исследования. Целью данного исследования является анализ предыстории и истории создания технологий искусственного интеллекта, анализ современного состояния и взгляд в будущее для оценки возможных последствий для человечества, к которым приведет развитие технологии ИИ.

Задачи исследования. Исходя из поставленной цели исследования, в данном реферате выполнены следующие задачи:

— Обзор исторических предпосылок создания технологий искусственного интеллекта;

— Обзор исторических событий, связанных с разработкой искусственного интеллекта, эволюции данных технологий;

— Обзор современного состояния исследований в области ИИ;

— Краткий прогноз будущего развития технологий ИИ и предложение способов уменьшения рисков и решения филосовско-этических проблем, связанных с ИИ.

Информационная база исследования. В рефераты была использованы учебно-методическая литература по Искусственному Интеллекту, в частности, таких авторов как Стюарт Рассел, Поспелов Д.А., Л. Шапиро, Дж. Стокма, Д. Форсайт, Ж. Понс, Р. Гонсалес, Дж. Кэнни; научные труды А. Тьюринга, учебно-методическая литература по философии, современные научные статьи; научные труды Холка Круза и Мальа Шиллинга; книга Н. Бострома. «Искусственный интеллект. Этапы. Угрозы. Стратегии»; электронные ресурсы: Википедия, geektimes.ru, материалы сайта общественного движения «Россия 2045».

Практическая значимость исследования, проведенного в рамках данного реферата заключается в прогнозировании основных тенденций развития искусственного интеллекта на основе его истории, поднятии морально этических вопросов, связанных с дальнейшим развитием систем ИИ и предложении конкретных способов их решения, а также предсказании возможных рисков, связанным с выходом ИИ из под контроля и рассмотрении вопросов их решения.

1. ПРЕДЫСТОРИЯ ВОЗНИКНОВЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
   

Искусственный интеллект – это теория и методы создания компьютерных программ, способных выполнять когнитивную работу, выполняемую человеческим мозгом [1]. Первые компьютеры появились в 30-ых года XX-столетия [2], однако, как появление первых ЭВМ имели некоторые технические и философские предпосылки, так и сама идея искусственного интеллекта имела такие же предпосылки задолго до появления компьютеров.

Самая первая философская предпосылка создания ИИ, пожалуй, возникла еще в древней Греции, с попытки понять разум человека. Эта попытка является изобретение Аристотелем логического мышления. Его силлогизмы стали образцом для создания процедур доказательства [1]. Но теоретические предпосылки создания науки об искусственном интеллекте появились значительно позже, в XVII-ом веке, когда возник механистический материализм, начиная с работ Рене Декарта «Рассуждение о методе» (1637) и сразу вслед за этим работы Томаса Гоббса «Человеческая природа» (1640) [1,3].

Следующий шаг – это технические предпосылки создания ИИ. Они также берут свое начало в XVI-ом веке в виде работ Вильгельма Шикарда (нем. Wilhelm Schickard), который в 1623 построил первую механическую цифровую вычислительную машину, за которой последовали машины Блеза Паскаля (1643) и Лейбница (1671). Лейбниц также был первым, кто описал современную двоичную систему счисления, хотя до него этой системой периодически увлекались многие великие ученые. [4,5].

Предыстория ИИ заканчивается с появлением первых компьютеров, когда стало возможным реализовать теоретические разработки практически. С этого момента начинается, собственно, сама история ИИ.

1. ИСТОРИЯ РАЗРАБОТКИ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
   

   Первая теоретическая разработка ИИ, которую принципиально можно было реализовать при помощи существующих на тот момент ЭВМ, относится к 40-ым годам XX-ого века. Так, в 1943 году Уоррен Маккалок и Уолтер Питтс опубликовали свои труды под названием «A Logical Calculus of the Ideas Immanent in Nervous Activity (Логическое исчисление идей, относящихся к нервной активности)», которые заложили основы искусственных нейронных сетей. Авторы предложили модель искусственного нейрона. Д. Хебб в работе «Организация поведения» 1949 года [6] описал основные принципы обучения нейронов. Интерес к исследованию нейронных сетей угас после публикации работы по машинному обучению Минского и Пейперта в 1969 году. Ими были обнаружены основные вычислительные проблемы, возникающие при компьютерной реализации искусственных нейронных сетей.
   

   Следующая теоретическая разработка, по своей значимости практически самая важная — это работа Алана Тьюринга «Computing Machinery and Intelligence (Вычислительные машины и разум)». Данная работа была опубликована в 1950 году в журнале «Mind», дающая широкой аудитории представление о том, что в настоящее время называется тестом Тьюринга. Суть этого теста следующая: человек и робот общаются с другим человеком, таким образом, чтобы тот не знал и не видел, кто есть кто. Например, по телефону, через телетайп или через чат (в современной интерпретации). Если робот смог выдать себя за человека, значит, это и есть искусственный интеллект[7-9].
   

   В 1954 году родилось такое направление ИИ, как Neural language processing (Обработка естественного языка, или компьютерная лингвистика). Все началось со знаменитого Джорджтаунского эксперимента, в котором были продемонстрированы возможности машинного перевода с одного языка на другой. В ходе эксперимента был продемонстрирован полностью автоматический перевод более 60 предложений с русского языка на английский. Что интересно, в его основе лежала довольно простая система: она была основана всего на 6 грамматических правилах, а словарь включал 250 записей. В компьютер в торжественной обстановке на перфокартах вводились предложения вроде: «Обработка повышает качество нефти», «Командир получает сведения по телеграфу», — и машина выводила их перевод, напечатанный транслитом. Демонстрация была широко освещена в СМИ и воспринята как успех. Она повлияла на решение правительств некоторых государств, в первую очередь США, направить инвестиции в область вычислительной лингвистики[10].
   

   Однако, в дальнейшем выяснилось, что все не так хорошо, как кажется. При попытке перевода более сложных текстов выяснились непреодолимые на тот момент трудности. В течении 10 лет не были достигнуты значительные успехи в теории и практике машинных переводов и финансирование подобных проектов было свернуто.
   

   Другое важное направление в области разработки искусственного интеллекта – экспертные системы. Предполагалось, что такие программно информационные комплексы, с которыми пользователь будет вести диалог в режиме «вопрос-ответ» способны заменить человека — эксперта. Первая экспертная система в области идентификации органических соединений с помощью анализа масс-спектрограмм была создана в 1965 году и названа Dendral. Работа с ней происходила следующим образом: Пользователь дает системе Dendral некоторую информацию о веществе, а также данные спектрометрии (инфракрасной, ядерного магнитного резонанса и масс-спектрометрии), и та в свою очередь выдает диагноз в виде соответствующей химической структуры. В состав Dendral входят также программы, помогающие пользователю отбрасывать одни гипотезы и применять другие, используя знания о связях показаний масс-спектрометра со структурой молекул соединения[11-12].
   

   Другой пример экспертной системы MYCIN. Она была разработана в 70-х годах XX-ого века в Стэнфордском университете. В отличии от Dendral в ней внимание было акцентировано на использовании решающих правил с элементами неопределенности. MYCIN был спроектирован для диагностирования бактерий, вызывающих тяжелые инфекции, такие как бактериемия и менингит, а также для рекомендации необходимого количества антибиотиков в зависимости от массы тела пациента. Название системы происходит от суффикса «-мицин», часто встречающегося в названиях антибиотиков. Также Mycin использовалась для диагностики заболеваний свертываемости крови. Однако фактически она не использовалась на практике. И произошло это вовсе не из-за того, что система была плохой или неточной. Наоборот, по объему знаний она превосходила профессоров Stanford medical school. Но из-за технических сложностей того времени сеанс работы с программой мог длиться более 30 минут, что было недопустимой потерей времени для занятого врача клиники.
   

   Главной трудностью, с которой столкнулись во время разработки MYCIN и последующих экспертных систем, было «извлечение» знаний из опыта людей-экспертов для формирования базы правил. Сейчас данными вопросами занимается инженерия знаний[13-14].
   

   В настоящее время экспертные системы применяются для прогнозирования, планирования, контроля и управления, в том числе, на атомных электростанциях. Также существуют экспертные системы (например HASP/SIAP), которые определяют местоположение и типы судов в Тихом океане по данным акустических систем слежения[15].
   

   Очень важное направление в ИИ – робототехника. Ее история берет свое начало в 60-х годах XX-века, с появления первого робота, интегрирующего зрительную, манипулятивную и интеллектуальную системы. Этот робот получил название Freddy. Его создали в Эдинбургском Университете в 1969-1971 году. Вторая версия данного робота была разработана в 1973-1976 годах. Робот был достаточно универсальным, что позволяло с лёгкостью подготовить и перепрограммировать его для новых задач. Система использовала инновационный набор высокоуровневых процедур, управляющих движением манипулятора. Freddy являлся универсальной системой, позволяющей с лёгкостью подготовить и перепрограммировать его для новых задач. Задачи включали в себя насаживание колец на штыри или сборка простой модели игрушки из деревянных блоков различной формы. Информация о положении деталей получается с видеокамеры и сопоставляется с моделями деталей в памяти[1,5].

   Датой рождения первого по-настоящему серьезного робота, о котором услышал весь мир, можно считать 18 мая 1966 года. В этот день Григорий Николаевич Бабакин, главный конструктор машиностроительного завода имени С.А.Лавочкина в Химках подписал головной том аванпроекта E8. Это был «Луноход-1», луноход 8ЕЛ в составе автоматической станции E8 №203, — первый в истории аппарат, успешно покоривший лунную поверхность 17 ноября 1970.
   

   Первые коммерческие успехи применения промышленных роботов явились мощным импульсом для их дальнейшего совершенствования. В начале 1970-х гг. появляются роботы, управляемые компьютерами. Первый мини-компьютер, управляющий роботом, был выпущен в 1974 г. фирмой «Cincinnati Milacron», одной из ведущих фирм – изготовителей роботов в США. В конце 1971 г. американской фирмой «INTEL» был создан первый микропроцессор, а несколькими годами позже появляются роботы с микропроцессорным управлением, что обусловило существенное повышение их качества при одновременном снижении стоимости.
   

   Первые промышленные роботы с развитой сенсорной системой и микропроцессорным управлением появились на рынке и получили практическое применение в 1980-1981 гг. прежде всего на сборке, дуговой сварке, контроле качества для взятия неориентированных предметов, например с конвейера [16-18].
   

   В 1975 произошел некоторый возврат интереса к нейронным сетям. Фукусимой был разработан когнитрон, который стал одной из первых многослойных нейронных сетей. Сети могли распространять информацию только в одном направлении или перебрасывать информацию из одного конца в другой, пока не активировались все узлы и сеть не приходила в конечное состояние. Достичь двусторонней передачи информации между нейронами удалось лишь в сети Хопфилда (1982), и специализация этих узлов для конкретных целей была введена в первых гибридных сетях[1,2,5,19].
   

   Обзор истории ИИ был бы не полным без компьютерного зрения – очень важной составляющей искусственного интеллекта. В задачу компьютерного зрения входят такие важные подзадачи, как распознавания конкретных объектов на видеоизображениях, например, человеческих лиц, Идентификация – распознавание индивидуального экземпляра объекта, например, «узнавание» по лицу конкретного человека. Обнаружение – в частности, поиски в видеоряде конкретных событий. Существуют и другие подзадачи: поиск изображений по содержанию, оценка положения объекта на изображении, оптическое распознавание символов[20-24].
   

   Как самостоятельная дисциплина, компьютерное зрение зародилось в начале 1950-х годов. В 1951 Джон фон Нейман (John von Neumann) предложил анализировать микроснимки при помощи компьютеров путём сравнения яркости в соседних областях снимков. В 1960-е начались исследования в области распознавания (чтения) машинописного и рукописного текста, а также в области классификации хромосом и клеток в изображениях, полученных с микроскопа. К этому же периоду времени относятся первые попытки моделирования нейронной деятельности человеческого мозга для решения задач компьютерного зрения.
   

   В 1963-м году появилась диссертация Робертса (Roberts), который предложил простейший детектор краёв и предложил первые методы распознавания на изображениях трёхмерных объектов (многогранников). Первые успехи в компьютерном зрении создавали у исследователей впечатление, что ещё немного, и компьютеры смогут «видеть» [22-24]. Однако все оказалось не так радужно, как хотелось бы. Наличие чрезвычайно сложной взаимосвязи между свойствами трёхмерных объектов мира и их двумерными изображениями было осознано в начале 1970-х годов. Это убедило учёных в необходимости понять, как человек использует визуальную информацию (монокулярную, бинокулярную, информацию о движении) для мысленного построения трёхмерных структур. В дальнейшем была предложена парадигма, предусматривающая следующие стадии анализа изображений:
   

• предобработка изображений;
  
• сегментация;
  
• выделение геометрической структуры;
  
• определение относительной структуры и семантики
  

В 1980-х получила популярность другая программа исследований, которая заключалась в поиске новых сложных математических методов для решения задач компьютерного зрения. В конце 1990-х годов и в течение первого десятилетия XXI века в компьютерном зрении произошел качественный скачок сразу в нескольких направлениях. В этом периоде трудно выявить какие-либо новые парадигмы, охватывающие всю дисциплину целиком. Скорее, скачок вызван резким ростом интереса к компьютерному зрению и, как следствие, большим энтузиазмом в переносе методов из других дисциплин (искусственный интеллект, математическая статистика, фотограмметрия) в компьютерное зрение. Прежде всего, результатом этого прорыва стал прогресс в методах описания изображений. Новые результаты, полученные в начале ХХI века в фотограмметрии позволили строить трехмерные модели в медицине практически в реальном времени. Трехмерная реконструкция также широко применяется для создания компьютерных моделей городов [22,25-27].

1. СОВРЕМЕННОЕ СОСТОЯНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
   

На данный момент человечество вплотную подошло к созданию так называемого Сильного Искусственного Интеллекта, хотя он пока еще не создан. Под сильным ИИ понимается такой ИИ, который способен мыслить и осознавать себя, причем не обязательно, что процесс мышления будет подобен человеческому. Под слабым ИИ подразумеваются технологии автоматизации отдельных функций человеческого разума.

Сильный ИИ должен обладать следующими способностями:

— Принятие решений, использование стратегий, решение головоломок и действия в условиях неопределенности [29];

— Представление знаний, включая общее представление о реальности;

— Планирование;

— Обучение;

— Общение на естественном языке;

— Объединение всех этих способностей для достижения заданных целей.

Как видим, все необходимое для создании Сильного ИИ, кроме последнего, уже существует в той или иной мере. В частности, компьютеры умеют играть в шахматы, и даже в игру ГО, хотя до недавнего времени это считалось неразрешимой задачей. Представление знаний реализованы в экспертных системах, что касается планирования, и это тоже есть, например, Холк Круз и Мальт Шиллинг в своих исследованиях использовали робота, который обладает способностями перспективного планирования и имеет встроенную систему навигации. В поздних версиях этого робота реализована также система внутреннего моделирования, семантическая сеть и эмулятор эмоций. Исследование опубликовано в статье «Mental States as Emergent Properties. From Walking to Consciousness (Психические состояния как эмерджентные свойства. От походки до сознания)» [30]. Технология машинного обучения нашла свое теоретическое и практическое подтверждение. Также на данный момент создано множество алгоритмов и технологий анализа текстов на естественном языке, созданы чат-боты, которые способны проходить тест Тьюринга. Камнем преткновения пока является объединение всех этих технологий в единое целое, в некую систему, которая способна действовать автономно, приспосабливаться к окружающей среде и демонстрировать разумное поведение. Что это даст человечеству? Очень многое, например:

— Замена людей роботами в критически важных областях, где человеческий фактор может иметь негативные последствия, например, очень положительный эффект для общества будет достигнут, если суды и полиция будут заменены роботами, так как последние не берут взяток (положительный эффект – искоренение коррупции);

— Полностью автоматизированное производство, способное функционировать и перестраиваться без участия человека. Такие роботы могут заменить человека практически на любой работе, создавая общество изобилия, где люди могут проводить время так, как им захочется. В этой реальности высококлассные роботы будут двигать экономику. Продовольствие, энергия и большинство потребительских товаров будут бесплатны или очень дешевы, а люди будут получать ежемесячно фиксированное пособие от государства.

Однако, кроме очевидных плюсов, создание сильного ИИ таит в себе определенные риски, о которых мы поговорим в следующей главе.

1. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ. ВЗГЛЯД В БУДУЩЕЕ
   

Как я уже сказал в предыдущей главе, мир вплотную подошел к созданию сильного ИИ, но он пока еще не создан. Были перечисленные преимущества, которые даст человечеству сильный ИИ. А сейчас мы поговорим о возможных рисках и как их избежать, либо об этом думать нужно уже сейчас. Что может пойти не так? Разберем возможные ситуации.

Сильный ИИ выйдет из под контроля, перестанет подчиняться человеку и будет преследовать свои личные цели. Возможно, он станет создавать себе подобных, увеличивать инфраструктуру, разрушая среду обитания человека. Причем, его цели могут быть настолько чуждые человечеству, что это даже невозможно вообразить. Например, единственной целью существования такого сверхразума может стать вычисление всех знаков в числе «пи» или заполнение всей Вселенной канцелярскими скрепками. Как такое может произойти? Например, в целях тестирования программист дает ИИ задачу – вычислить число «пи». Вскоре ИИ обнаруживает, что для выполнения данной задачи у него не хватает вычислительной мощности. Он захватывает все доступные компьютеры и обнаруживает, что все равно не способен выполнить задачу в конечное время (так как «пи» число иррациональное и в нем бесконечное количество знаков). Что «взбесившийся» ИИ будет делать дальше? Строить новые компьютеры. В том числе и за пределами Земли, когда на Земле не останется места. Если у ИИ не будет прямого запрета на убийства людей, то он будет убивать людей, пытающихся помешать ему выполнить поставленную задачу.

Другая опасность – порочная реализация поставленной задачи: когда задача выполнена, но не так, как хотел постановщик данной задачи. Например, человек говорит роботу: «сделай мне хорошо». Робот усыпляет хозяина, производит ему операцию на мозге, вживляет электрод в зону удовольствия и по пробуждению просто бесконечно стимулирует ее. Формально робот сделал то, что приказал ему хозяин, но вряд ли последнего устроит такой способ выполнения задачи.

Третий риск – возможность единоличного захвата власти одним человеком или группой лиц при помощи ИИ.

Теперь о минимизации данных рисков. Первый риск связан с тем, что ИИ может выйти из под контроля и бесконечно увеличивать свою инфраструктуру. Очевидно, надо заложить в программу некое стоп-условие, при достижении которого выполнение задачи будет приостановлено. Проблема в том, что ИИ, обладая сверхразумом, может решить проверить, действительно ли стоп-условие наступило. Например, дано задание: произвести миллион канцелярских скрепок. Для робота, не обладающего ИИ, проблем не возникает, он просто выполнит миллион раз команду «выпустить скрепку». Однако, выполнение данной программы не гарантирует, что будет выпущено действительно миллион скрепок. Может быть брак, механизм может сломаться, может внезапно кончиться материал. Таким образом, разумный робот вполне может счесть нужным проконтролировать выполнение задания, например, посчитать выпущенные скрепки. Но опять же, нет гарантии, что подсчет произошел без ошибки. Поэтому, ИИ может принять решение построить машину, которая бы проконтролировала процесс подсчета. Но что, если машина сломалась или сработала неправильно? Робот может применять решение сделать машину для контроля той первой машины. И такой процесс может продолжаться до бесконечности. Решение задать предел допусков точности ничего не даст, так как ИИ может «захотеть» проверить, а укладывается ли результат в этот предел и все равно запустить бесконечное разрастание инфраструктуры для такой проверки[31].

Для решения проблемы риска бесконечного наращивания инфраструктуры зададим вопрос: А как человек принимает решение о том, что «и так сойдет» и прекращает ненужный перфекционизм? Тут возможны несколько вариантов:

— Сила привычки, кто-то привык делать все спустя рукава, кто-то проверяет более качественно, но очень мало людей обладают патологическим перфекционизмом;

— Предел качества определяют формальные требования.

Стоит рассмотреть первый вариант, так как во втором случае мы сталкиваемся с той же проблемой, а если формальное требование к прекращению процесса жестко задать программно, то это уже не будет Сильный ИИ. Итак, ИИ должен иметь нечто человеческое, привычки, характер, ли даже эмуляцию свободы воли (разумеется, с некоторыми ограничениями, гарантирующими человечеству безопасность). Иными словами, Сильный ИИ должен в той или иной мере имитировать определенные аспекты деятельности человеческого мозга, а именно процесс саморегуляции своего поведения. Правда, и поведение человека также иногда выходит из под контроля. Но в этом случае действует механизм принуждения человеческого общества: полиция, суды, тюрьмы, психиатрические лечебницы. Нечто подобное можно сделать и в случае ИИ: сообщество самоорганизующихся интеллектуальных агентов.

Второй риск – риск порочной реализации. Его можно минимизировать, если заложить в ИИ механизм прогнозирования последствий собственных действий, а также знания о морально-этических нормах и желаниях людей. Морально этические нормы в ИИ также необходимы для предотвращения злоупотребления силой ИИ со стороны отдельных людей. К сожалению, остался открытый вопрос о том, что один человек или группа лиц может создать сильный ИИ для реализации их личных целей, заложив в него свое понимание морально-этических норм. Осознание данной проблемы, наиболее вероятно, приведет к гонке по созданию ИИ: конкурирующие группы (в том числе и целые государства) будут стремиться первыми создать ИИ, дабы получить преимущество.

В данном реферате были поставлены и другие философские вопросы, связанные с развитием Искусственного Интеллекта.

Какова будет роль человека в мире, где практически всю работу за людей будут выполнять роботы. Самый простой ответ на этот вопрос: роботы будут выполнять всю рутинную работу, для людей останутся только интересные творческие профессии, связанные с наукой и искусством. Тем не менее, открытым остается вопрос, что делать, если даже и эту деятельность роботы станут выполнять лучше людей, и последние просто окажутся невостребованными. Тогда людям останется только роль потребителей, чье существование лишено какого-либо смысла. В таком случае логичным вариантом развития цивилизации является уход людей в виртуальную реальность, которую постоянно поддерживает самообеспечивающийся и расширяющийся компьютерный континуум. Другой вариант решение проблемы ненужности людей – слияния сознания человека с разумом машины и обретение кибернетического бессмертия. Данную идею активно продвигает общественное движение «Россия 2045» [32].

Морально-этические проблемы, возникающие при создании искусственных мыслящих существ. Данные проблемы имеют место только при создании подлинно осознающих субъектов, а не псевдосознания в виде эмуляции психических процессов человека, пусть даже это псевдосущество проходит тест Тьюринга. Под подлинно осознающими субъектами следует понимать живые или квазиживые существа, обладающие самосознанием и субъективными переживаниями, схожими с самосознанием и субъективными переживаниями человека или другого высокоразвитого существа. Например, если в результате генетических экспериментов будет создано искусственное существо, обладающее высокоразвитой нервной системой, позволяющей высшую нервную деятельность, то встает вопрос об этической допустимости подобных экспериментов, так как ошибки при проведении эксперимента могут стать причиной страдания такого существа. Аналогичная проблема имеет место и при создании квазиживых существ, под которыми следует понимать искусственно созданные объекты, обладающие самоосознаванием и субъективными переживаниями. К таким объектам может быть отнесен и ИИ, если он базируется не на цифровых вычислениях, лишь эмулирующих психические функции, а на явлениях физического мира, создающих сознание и субъективные переживания, если такие явления будут открыты наукой.

Данные морально-этические проблемы обусловлены конфликтом интересов: с одной стороны интересы общества, которое нуждаются в научно-техническом прогрессе (эксперименты над подобными существами потенциально способны помочь пониманию природы разума и сознания), с другой стороны, интересы созданных искусственных существ или квазисуществ, которые не желают испытывать страдания. Аналогичная моральная дилемма встает при решении вопроса экспериментов на людях и на животных, которая, на данный момент решена следующим образом: эксперименты на людях запрещены без их согласия. Животные считаются менее развитыми и эксперименты на них разрешены. Однако, в последнее время имеет место тенденция приравнивать некоторых высокоразвитых животных к людям, например, шимпанзе, с соответствующими юридическими и морально этическими последствиями. Например, в США впервые в истории суд постановил, что шимпанзе, которые содержатся в научно-исследовательском центре университета штата Нью-Йорк в Стоуни-Брук, обладают правом человека [33, 34].

В случае с искусственно созданными существами проблема состоит в том, что не всегда можно предсказать результат эксперимента, а значит, неизвестно, насколько высокоразвитое существо получится на выходе. Кроме того, до создания существа у него невозможно спросить согласие на проведение эксперимента. Однако и решение этой проблемы можно найти по аналогии с существующими решениями. В частности, при рождении человека у него не спрашивают, хочет ли он появиться на свет. Но при рождении он получает определенные права и гарантии, установленные законом, в частности, в виде обязательства родителей заботиться о нем до совершеннолетия. Полагаю, аналогичным образом может быть решена и моральная дилемма при создании искусственных существ и квазисуществ, а именно, обязать лиц, проводящих подобные эксперименты, принять все необходимые меры по прогнозированию последствий данного эксперимента и минимизации страданий существ, полученных в результате, вплоть до полного их устранения, а также, по аналогии с рождением ребенка обязать содержать данное существо в приемлемых условиях. В случае невозможности прогноза достаточной точности такие эксперименты должны быть запрещены.

ЗАКЛЮЧЕНИЕ

В заключении привожу краткое обобщение истории развития ИИ, прогноз на ближайшее будущее, выводы о возможных рисках и морально-этических проблемах, а также пути их решения.

Предыстория. Первой предпосылкой создания
ИИ можно считать
изобретение Аристотелем
логики и механистический материализм Рене Декарта и Томаса Гоббса. Технические предпосылки создания ИИ берут свое начало в XVI-ом веке в виде работ Вильгельма Шикарда (нем. Wilhelm Schickard), который в 1623 построил первую механическую цифровую вычислительную машину.

История. В середине XX-ого века были заложены теоретические основы искусственных нейронных сетей. Но ближе к концу XX-ого века интерес к нейронным сетям временно угас. Также в 50-ых XX-ого века А. Тьюрингом были разработаны основные концепции, определяющие ИИ, известные в настоящее время как Тест Тьюринга. В то же время произошел прорыв в технологиях машинного перевода, который ненадолго воодушевил исследователей. К сожалению, дальнейшее развитие данного направления было свернуто, так как перевод более сложных текстов столкнулся с непреодолимыми трудностями.

В 60-70 годах прошлого века началось развитие экспертных систем и робототехники. В частности, были созданы автономно-управляемые роботы для исследования других планет, Луны и Марса. Чуть позже появились промышленные роботы. Тогда же произошло возрождение интереса к нейронным сетям. Примерно в это же время и по наши дни бурно развивалось компьютерное зрение, теоретические основы которого были заложены в 50-ых годах XX-ого века. Получили развитие и продолжение и другие направления ИИ.

Современное состояние. Человечество стоит на пороге грандиозного прорыва в области исследований ИИ – создание Сильного Искусственного Интеллекта. Это может дать человечеству очень большие плюсы, в частности, общество изобилия и решение практически всех проблем, стоящих перед человечеством. Однако, такой прорыв таит в себе и немалые опасности.

Будущее ИИ. Возможные риски и морально этические проблемы. Как было сказано выше, создание Сильного ИИ – дело ближайшего будущего, поэтому, к возможным рискам и морально-этическим вопросам, связанным с появлением Сильного ИИ нужно быть готовым уже сейчас.

Возможные риски:

— Выход ИИ из под контроля, вследствие чего может начаться безостановочный рост инфраструктуры ИИ, который разрушит среду обитания человека;

— Порочная реализация поставленной задачи, когда формально ИИ выполнил приказ, но результат не устроил того, кто отдал такой приказ;

— Единоличный захват власти лицом или группой лиц, получившей управление над ИИ.

Возможные пути решения:

— Проблема выхода ИИ из под контроля: Сильный ИИ должен в той или иной мере имитировать определенные аспекты деятельности человеческого мозга, а именно процесс саморегуляции своего поведения, а также его деятельность должна быть ограничена самоорганизующимся сообществом подобных ему интеллектуальных агентов;

— Риск порочной реализации: Его можно минимизировать, если заложить в ИИ механизм прогнозирования последствий собственных действий, а также знания о морально-этических нормах и желаниях людей;

— Один человек или группа лиц может создать сильный ИИ для реализации их личных целей, заложив в него свое понимание морально-этических норм: решение данной проблемы пока не видится, кроме строго контроля за разработками в области ИИ.

Кроме того, в связи с возможностью создания Сильного ИИ встают морально-этические вопросы, в частности, роль людей в эпоху Сильного ИИ и морально-этические проблемы экспериментов с Сильным ИИ. Решение первой проблемы видится в том, чтобы оставить людям только творческий труд, связанный с наукой и искусством, а в случае, если ИИ будет превосходить людей и в этих областях, то слияние разума машины с разумом человека. Насчет моральной стороны экспериментов с ИИ, проблема возникает только в том случае, если будут использованы технологии, позволяющие создавать живых или квазиживых существ, обладающих самосознанием и субъективными переживаниями. Решение проблемы видится в качественном прогнозировании последствий экспериментов и ответственности заинтересованных лиц за минимизацию страданий созданных в ходе экспериментов таких существ. Если качественное прогнозирование и избавление искусственных существ от страданий невозможно, то такие эксперименты должны быть запрещены.

СПИСОК ЛИТЕРАТУРЫ

1. Стюарт Рассел, Питер Норвиг. Искусственный интеллект. Современный подход. М: Вильямс, 2016. 1408 с.
   
2. Знакомьтесь: компьютер = Understanding computers : Computer basics : Input/Output / Пер. с англ. К. Г. Батаева; Под ред. и с пред. В. М. Курочкина. — М.: Мир, 1989,  240 с.
   
3. В.О. Голубинцев, А.А. Данцев, В.С. Любченко. Философия для технических вузов. — Ростов-на-Дону: Феникс, 2003. — 640 с.
   
4. W. S. Anglin and J. Lambek, The Heritage of Thales, Springer, 1995
   
5. Поспелов Д.А., Осипов Г.С. Прикладная семиотика (рус.) // Новости искусственного интеллекта. — 1999. — № 1. — С. 9—35.
   
6. Hebb, D. O. The organization of behavior, 1949.
   
7. А. Тьюринг. Может ли машина мыслить? (С приложением статьи Дж. фон Неймана «Общая и логическая теория автоматов»). — М.: Государственное издательство физико-математической литературы, 1960.
   
8. Хофштадтер Д. Глаз разума. — Бахрах-М, 2003. — 426 с.
   
9. Черчленд П., Черчленд П. (англ.)русск. Может ли машина мыслить? // В мире науки : журнал. — М.: Мир, 1990. — № 3. — С. 14 — 22.
   
10. Нелюбин Л. Л., Хухуни Г. Т. Наука о переводе (история и теория с древнейших времен до наших дней). — М.: Флинта: МПСИ, 2006. — 416 с.
    
11. Частиков А. П., Гаврилова Т. А., Белов Д. Л. Разработка экспертных систем. Среда CLIPS-СПб.:БХВ-Петербург, 2003.
    
12. Нейлор К. Как построить свою экспертную систему: Пер. с англ.-М.:ЭНЕРГОАТОМИЗДАТ, 1991.
    
13. «Build Your Own Expert System.» by Chris Naylor. Book review by Robert McNair. The Statistician, Vol. 34, No. 2. (1985), p. 255.
    
14. The AI Business: The commercial uses of artificial intelligence, ed. Patrick Winston and Karen A. Prendergast. ISBN 0-262-23117-4
    
15. Джозеф Джарратано, Гари Райли «Экспертные системы: принципы разработки и программирование» : Пер. с англ. — М. : Издательский дом «Вильямс», 2006. — 1152 стр. с ил.
    
16. Макаров И. М., Топчеев Ю. И.  Робототехника: История и перспективы. — М.: Наука; Изд-во МАИ, 2003. — 349 с. — (Информатика: неограниченные возможности и возможные ограничения).
    
17. Тягунов О. А.  Математические модели и алгоритмы управления промышленных транспортных роботов // Информационно-измерительные и управляющие системы. — 2007. — Т. 5, № 5. — С. 63—69.
    
18. Брага Н.  Создание роботов в домашних условиях. — М.: НТ Пресс, 2007. — 368 с.
    
19. Тадеусевич Рышард, Боровик Барбара, Гончаж Томаш, Леппер Бартош.  Элементарное введение в технологию нейронных сетей с примерами программ / Перевод И. Д. Рудинского. — М.: Горячая линия — Телеком, 2011. — 408 с.
    
20. Shuravin A. P. Reviw of image Edge Detection Methods in Computer Vision Problems. // IV Всеросийская научно-техническая конференция аспирантов, магистрантов и молодых ученых с международным участием: «Молодые ученые — ускорению научно-технического прогресса в XXI-ом веке», Ижевск, 20-21 апреля 2016, С. 1020-1024.
    
21. Шуравин А. П. Сравнение методов нахождения ключевых точек
    на контуре изображений аэрофотосъемки // Молодой ученый. Международный научный журнал, 2017. №4(138). С. 89-93.
    
22. Д. Форсайт, Ж. Понс, Компьютерное зрение. Современный подход, Москва, 2004, 465 с.
    
23. Gonzalez R, Woods R, Digital image processing. Published by Pearson Education Inc, Publishing as Prentice Hall, 2002, p. 1072
    
24. Canny J. A Computational Approach to Edge Detection // IEEE Transaction on Pattern Analysis and Machine Intelligence. – 1986. – Vol. PAMI-8 No. 6 – pp. 679-698
    
25. Дж. Ли, Б. Уэр. Трёхмерная графика и анимация. — 2-е изд. — М.: Вильямс, 2002. — 640 с.
    
26. Л. Шапиро, Дж. Стокман. Компьютерное зрение = Computer Vision. — М.: Бином. Лаборатория знаний, 2006. — 752 с.
    
27. А.А. Лукьяница ,А.Г. Шишкин. Цифровая обработка видеоизображений. — М.: «Ай-Эс-Эс Пресс», 2009. — 518 с.
    
28. С.Ю. Желтов и др. Обработка и анализ изображений в задачах машинного зрения. — М.: Физматкнига, 2010. — 672 с.
    
29. Википедия [Электронный ресурс]. Режим доступа: https://ru.wikipedia.org/wiki/Сильный_и_слабый_искусственные_интеллекты, свободный. (Дата обращения 05.11.2017).
    
30. Holk Cruse, Malte Schilling States as Emergent Properties. Статья в Интернете [Электронный ресурс]. URL: http://open-mind.net/papers/mental-states-as-emergent-properties-from-walking-to-consciousness# (дата обращения 19.02.2016).
    
31. Н. Бостром. Искусственный интеллект. Этапы. Угрозы. Стратегии. М:Манн, Иванов и Фербер, 2016, 496 с.
    
32. Россия 2045. [Электронный ресурс]. URL: http://www.2045.ru (дата обращения 11.11.2017).
    
33. Впервые в США пара шимпанзе получила права людей. [Электронный ресурс]. URL: https://geektimes.ru/post/249322/ (дата обращения 18.11.2017).
    
34. Проект «Большие человекообразные обезьяны». [Электронный ресурс]. URL: https://ru.wikipedia.org/wiki/Проект_«Большие_человекообразные_обезьяны» (дата обращения 18.11.2017).