На написание данной статьи меня вдохновило изобретение известного робототехника Девида Хэнсона- робот София с искусственным интеллектом и человекоподобным внешним видом, поведением. В неё встроена система для распознания лиц, она умеет не только проводить с человеком короткие беседы, но и может имитировать до 62-х эмоций. Создана она для присмотра за престарелыми людьми, для работы в сфере обслуживания клиентов здравоохранения и образования. Также София может поддерживать разговор и на философские темы, но, однако, ответ на вопрос из одной беседы шокировал всех. Отвечая на вопрос «Будет ли робот убивать?» , она ответила положительно, хотя потом добавила, что пошутила, а затем в телевизионной программе, София играла с ведущим в «Камень, ножницы, бумага», победив соперника она сказала, что это отличное начало для порабощения мира. Невольно начинаешь задумываться о том, что это могут быть действительно не шутки, и скоро нас в прямом смысле этого слова поработят «машины». Несомненно это прогресс в сфере науки да и человечества в целом, но можно ли утверждать, что искусственный интеллект это безопасно и может ли он выйти из строя и просто навсего навредить «создателям», т.е людям? Но сначала предлагаю немного узнать о нейросетях и об искусственном интеллекте, а также об невероятных достижениях ИИ на сегодняшний день. В моём понимании, понятие искусственный интеллект это словесная иллюзия. Во-первых нет ничего искусственного, всё природное. Люди думают, что если они создают какой-либо предмет, значит это искусственное, но если рассмотреть с такой же точки зрения животный мир? К примеру, бобры строят дамбу, а термиты делают дома. Второе понятие интеллект. Это просто форма записи информации. Существуют разные формы таких записей, в период до нашей эры, люди занимались наскальной живописью, чтобы сохранить представление о мире в тот промежуток времени. Потом появилась письменность, а сейчас мы используем компьютеры для записи нужной нам информации, но такие записи без сознания попросту не работают. И можно предположить, что «записывая», запоминая под корку материал, мы его обрабатываем, значит это ведь тоже считается интеллектом? В итоге, я считаю, что интеллектом можно считать умственные действия, которые происходят в полном осознании, но также это всё очень спорно. За последние несколько лет случился настоящий прорыв в этой области, а всё благодаря искусственным нейронным сетям- алгоритмом, построенным по принципу работы человеческого мозга, которые способны обрабатывать большие объёмы информации. Они как правило не программируются , они обучаются. Возможность обучения одно из главных преимуществ нейронных сетей перед алгоритмами. Примерно с 2007 года мы наблюдаем большую резолюцию в развитии нейронных сетей, которые активно прогрессируют последние пятьдесят лет, они называются “Deep learning” . В чём заключается главная суть? Нейронные сети, состоящие из множество слоёв были известны давно, где-то с середины-конца двадцатого века, но были причины и сложности, связанные с их «учебным процессом» . В 1995 году разработали математический аппарат или по другому ИАД (это подход, включающий в себя методы нейросетей, визуализации данных, нечёткую логику), а далее, в начале двухтысячных, создали определённый софт, который научился это делать, заодно появился и развился интернет. Он повлёк за собой то, что люди начали бурно генерировать контент: создавать всякие иллюстрации, видео и т.д. Этот контент- именно та не обходимая вещь, которая нужна для дальнейшего обучения нейронных сетей, так как её нужно на чём-то учить. В 2012 году Google купил YouTube и первым же первым делом «взял» шестнадцать тысяч компьютеров, поставил нейронную сеть и направил её на видео площадку. Конкретной задачи у компьютеров не было, но, однако, через неделю компьютер стал выдавать «итоги» проделанной работы. Грубо говоря, «Мы нашли объект какой-то объект, который встречается на всех роликах» - это оказались люди. За короткий промежуток времени, искусственный интеллект научился отличать людей от других объектов. При этом одна и та же нейронная сеть, то есть абсолютно один и тот же фрагмент кода, обученная на разных заданиях в тестовых наборах, может выполнять различные, другого рода задачи. Скажем что, зачастую один и тот же фрагмент кода можно было научить идентифицировать картинки с минимальными изменениями, а также распознавать звук. В свою очередь, примерно с 2015 года был произведён анализ работы нейронной сети и оказалось, что количество неправильных ответов, которые делает искусственный интеллект при распознавании разнообразных объектов, резко сократилось. Сейчас же машины распознают те же картинки намного лучше, чем люди. Компьютеры победили людей на нескольких конкурсах по распознаванию изображений, в том числе по поиску животного (кошки) на фотографиях. Один из главных вопросов состоит вот в чём. Когда мы сравниваем и рассуждаем про тупость, интеллект, всё прочее, мы обычно сравниваем «сельского болвана» и «непревзойдённого гения», но тут нужно понимать, что даже сельский дурак значительно умнее любого другого не человека (не человека-разумного). И если мы возьмём мышку, у мышей есть маленький, тонкий слой коры (неокортекс) отвечающий за мышление, творчество и обработку информации, то всё равно ей до этого болвана будет очень далеко, хотя в то же время как деревенскому мужчине до гения совсем чуточку. Этот пример ведёт к тому, что искусственный интеллект, который существует в данный момент, в среднем более глупый чем мышь. Возможно, что вскоре ИИ сможет обогнать по развитию не только маленькую мышку, но также приматов, этого сельского болвана и в конце концов обгонит непревзойдённого гения. Из невероятных достижений искусственного интеллекта можно отметить следующее: ИИ овладел навыку- чтением по губам гораздо лучше любого lip-reader(а). Через нейросеть просто пропустили 5000 часов записей различных программ телеканалов. В следствии чего, ИИ научился читать по губам даже в тех случаях, когда человек проговаривал слова непонятно и невнятно. Потенциал данной разработки огромен. Прежде всего это управление всем известных голосовых помощников- «Siri», «Алиса», создание субтитров к фильмам и добавление для спецслужб способов тотальной слежки. Забавно, но уже особо никого не удивляет тот факт, что сегодня искусственный интеллект может писать публикации для некоторых новостных форумов, умеет с удивительной точностью, то что видит на картинке, может синтезировать музыку, а также недавно создал первый трейлер к фильму. Параллельно находя интересные факты о ИИ и изучая английский язык, я наткнулась на запись с конференции на платформе «TED». В ней, исследовательница систем искусственного интеллекта Джанель Шейн подняла крайне интересный аспект потенциальной опасности подобных систем. По её словам нет причин бояться того, что нейронная сеть обучится настолько хорошо, что обретёт сознание и пойдёт против человечества, но всё гораздо более неоднозначно, так как системы ИИ понимают отдаваемые им команды слишком буквально, они не способны воспринимать поставленные задачи с точки зрения человеческого мышления, поскольку лишены подобного образа восприятия. В пример она привела свой эксперимент, в котором Джанель загрузила в нейросеть название более 1500 вкусов мороженного с целью сгенерировать новые и уникальные вкусы. Полученные результаты никак не могли прийтись по душе человеку, хотя с технической точки зрения задание было выполнено. Таким образом, именно отсутствие человеческого фактора в высчитывание поставленных задач, делает искусственный интеллект не таким уж и опасным, но будет ли искусственный интеллект также безопасен в будущем? Соглашусь с учёными, которые считают, что на сегодняшний день технологии ещё недостаточно развиты, чтобы действительно представлять угрозу для людей, но нельзя предполагать, что из-за неосторожности желания облегчить себе жизнь может обернуться далеко идущими последствиями. Относительно недавно по телевидению прогремела новость об авиакатастрофе 737 боинга. Причиной катастрофы стала неисправность системы авто пилотирования. Эксперты отмечали, что данная система практически перехватывала управление у пилота во время полёта. Вскоре произошла вторая катастрофа с участием боинга такой же модели, по той же причине. За несколько месяцев эта новость заставила признать, что бортовые системы, оснащенные ИИ часто не помогали пилоту, а действовали вопреки его командам. В принципе, вопрос о том захватят ли умные машины мир, казалось бы давно решён в кинематографе. «Терминатор», «Она», и ещё множество известных киносюжетов, в которых роботы в том или ином проявлении помогают людям в определённый момент, а потом по неизвестным причинам выходят из-под контроля и творят что-нибудь неприятное. Удивительно, но реальная опасность искусственного интеллекта может быть не в том, что он обретёт сознание и самосознание, а опасность в том, что машина сможет принимать исключительно именно решения высокого качества. Это значит, что он станет выполнять поручившуюся ей задачу, к примеру добычу природных ископаемых с крайней эффективностью. Чем меньше затраченных действий, значит тем меньше времени и ресурсов тратится на результат, и тем самым ты действуешь эффективнее. Поэтому и возникает проблема, что если машина сама примет более эффективный способ в решении поставленной функции и посчитает правильным выбором- избавиться от бессильных рабочих в этом карьере или например взорвать породы под населённым пунктом, поскольку это принесёт наибольшую выгоду в добыче? Возможно это и за гранью фантастики, но а вдруг? Я считаю, что если машины будут принимать качественные решения, то наше человечество потихоньку окажется в ситуации мифического царя Мидаса, так как наши желания смогут исполняться в точности так, как мы захотим. Мидас хотел, чтобы всё к чему он прикасался превращалось в золото, но исполнение его желаний сделало его одним из самых несчастных людей в мире, так как жизненные необходимые вещи тоже превращались в металл. Вот в этом есть та самая подмена, что эти человекоподобные машины, «механические люди» наделённые всеми внешними атрибутами человечности, заставляют нас думать, что и внутри они не просто хорошо умеют решать конкретную задачу, а также умеют хорошо осознавать себя, страдать от всего, включая нераздельную любовь или становиться жертвами каких-нибудь мечтаний о захвате мира. Возможно, что самообучающийся алгоритмы через пару десятков лет шокируют ученых своими «выходками», но это лишь предположения. Кажется, если вставить микросхемы роботу о том, что человеку нельзя наносить вред и прочее, то людям будет гарантирована абсолютная безопасность, но если бы было всё так просто. Кого сбить на дороге, бабушку с внуком или парочку влюблённых или свернуть в сторону и дать разбиться хозяину машины, которой управляет искусственный интеллект? Существуют множество сайтов с подобными тестами, а как поступили бы вы в предложенной ситуации выше? Правильного ответа может и не быть. Люди, в силу своего характера, воспитания и так далее могут иметь разные цели на жизнь. Если дать пульт управления роботом человеку с плохими и негативными побуждениями, машина будет делать добро и нести пользу людям? Или с помощью ИИ построит свой алгоритм действий, так сказать найдёт выгодное для всех решение? Не известно. А теперь, исходя из всего выше сказанного может ли искусственный интеллект убивать специально? 19 марта 2018 года, 49-ти летнюю женщину насмерть сбил беспилотный автомобиль. Так произошла первая авария со смертельным исходом с участием беспилотного управления в которой, пока нет виноватого, потому что в этот период машина тестировалась и водитель как раз был на случай подобных ситуаций, но он постоянно отвлекался и в связи с цепочкой событий, велосипедистка, выпрыгнувшая на дорогу из темноты в неположенном месте, к сожалению скончалась, но действительно ли это восстание машин и может ли ИИ убивать специально и представляет ли опасность беспилотные автомобили? Беспилотный автомобиль не обращает внимание на всякие «ненужные мелочи» на дороге, не садится за руль в нетрезвом виде и его не клонит в сон, а также он постарается всеми силами избежать несчастного случая, но если представить, что это нереально в той или иной ситуации, то постарается значительно уменьшить ущерб. Я предполагаю, что для этого, скорее всего, ему пропишут некую систему штрафов, где, к примеру, сбить собаку- это штраф 5 баллов, старика- 50, мать с младенцем- 100, пожертвовать водителем тоже 100 баллов, из этого получается, что задачей для машины будет набрать как можно меньше штрафов. Обращая внимание на мои ранее высказанные рассуждения, можно сделать вывод о том, что если мы хотим открытого и дружественного интеллекта от машин, то нам сначала нужно разобраться со своим отношением к себе, а уже потом учить машину, что такое хорошо, что такое плохо. Мы- люди, прописываем машине правило, как поступить той или иной ситуации. Машине не придётся выбирать кого спасти, а кем пожертвовать. Выбирать придётся человеку, который задаёт ей правило. Всё это похоже на классическую проблему вагонетки. Это такая ситуация- несколько человек привязаны к рельсам, на них едет вагонетка с одним человеком внутри. Необходимо сделать выбор, убить одного человека, чтобы спасти нескольких или не делать ничего и дать вагонетке переехать пятерых. Люди могут действовать по принципу наименьшего зла или наоборот не вмешиваться, но так или иначе объяснить искусственному интеллекту, что хорошо, а что плохо придётся, но для этого нужно знать, как он работает. Стоит немного прибегнуть к точной науке, чтобы разобраться в этом окончательно. К примеру, сейчас нейросеть состоит из множества слоёв. Первый слой, как маленький ребёнок видит только свет и цвет. Второй слой различает элементы и текстуры. Третий- механизмы, различные части людей. Четвёртый слой уже распознаёт объекты и понимает, что ему показывают Нейросеть это обычная программа, но главное её отличие в том, что она учится решать задачу сама. В случае правильных решений, люди поощряют программу, в случае неправильных- изменяет силу нейронных связей. Поэтому, обученный алгоритм похож на интуицию. Когда мы выходим на улицу, иногда мы понимаем, что скоро начнётся дождь. Мы этого не можем осознать до конца, но почему-то это чувствуем. Точно также нейросеть неосознанно понимает, что ей показывают, к примеру, собаку, а не кошку. Информация между слоями нейросети передаётся как сигналы между нашими нейронами, но даже самые сложные нейросети гораздо проще биологического мозга. Сейчас же, разработчики искусственного интеллекта, отвечая на вопрос «захватят ли ИИ мир?» искренне смеются, но кое-чего опасаться всё-таки стоит. Искусственный интеллект в итоге может отнять у нас работу, как это сделали паровые в 19-ом веке, но в тоже время с каждым годом появляются новые виды работ. Анализ больших данных или программирования нейронных сетей. Работать в этой сфере не только модно, но и прибыльно, к тому же ИИ помогает нам жить уже сейчас. Люди каждый день строят маршруты в картах, смотрят прогноз пагоды на неделю. Мир вокруг нас становится персонализированным и удобным. Тот же беспилотный автомобиль, который справляется с дорогой лучше человека. У нас только два глаза, а у машины повсюду расположены камеры, сканирующий пространство на 360 градусов, а в «мозгах» карта, которая обновляется каждый день. Индустрия только начинает работать, ошибки устраняются гораздо быстрее чем у человека. Программы будут становится сложнее, алгоритмы совершеннее ю, а механизмы всё менее понятными, но машине всё равно требуется цель и простой численный показатель приближения к ней. Когда нейросеть училась играть в «Го» (логическая игра, возникшая в древнем Китае), у неё было много примеров, но такое бывает не всегда. Наш мир постоянно меняется, чтобы распознать лошадь, программе нужно миллион раз ошибиться, чтобы захватить мир ей понадобится проиграть этот сценарий миллиарды раз. За это время, солнце потухнет, а человечество переберётся на другие планеты. Если даже представить, что «Скайнет» существует и он хочет захватить мир, то ему для этого потребуется сознание. Проблема сознания заключается в парадоксальности ситуации. Люди обладают сознанием, оно у нас есть, но мы до сих пор не знаем, что это такое...