Заказать звонок
Мы перезвоним и подробно расскажем о наших продуктах
Нажимая на кнопку «Отправить», я даю свое согласие на обработку персональных данных
Блог
03.12.21

Опасен ли искусственный интеллект

Отношение к искусственному интеллекту неоднозначное: с одной стороны – прогресс, с другой – угрозы. Разберемся, какие угрозы могут нести в себе искусственный интеллект, цифровизация, роботизация и автоматизация.
Опасен ли искусственный интеллект | ManGO! Games: заказать деловые игры, бизнес-тренинги, фасилитации

Опасен ли искусственный интеллект? Конечно, он может быть опасен, как и все, что может попасть в «не те руки».

Учитывая подход, применяемый при управлении рисками, попытаемся рассмотреть худший сценарий, и разобраться, как и к чему готовиться.

Остановить развитие искусственного интеллекта невозможно

Любой инструмент, в том числе и искусственный интеллект, содержит в себе как опасность, так и возможности. Все зависит от того, кто его применяет и зачем.

Сам по себе искусственный интеллект возник как идея новых технологий. Сейчас его развитие уже на той стадии, что остановить его невозможно – такой сценарий маловероятен, поскольку развитие технологий крайне сложно контролировать без какого-либо единого контролирующего органа.

Угрозы искусственного интеллекта

В чем же угрозы ИИ?

Лишние люди

При текущей экономической модели приход техники приводит к идее максимизации прибыли под лозунгом «Машина вместо человека». Люди становятся лишними. Что будут делать люди тех профессий, которые будут заменены искусственным интеллектом?

Рост неравенства

В мире существует проблема неравенства, искусственный интеллект может ее усилить: кто обладает технологиями – получает преимущество. Определенное сообщество, владеющее технологиями, применяет их на массах, не владеющих таким преимуществом.

Монополия на искусственный интеллект

Искусственный интеллект может сосредоточиться в одних руках. У него будет такое же преимущество, каким сейчас для стран является ядерное оружие. Смогут ли люди оставаться независимыми?

Потеря контроля над искусственным интеллектом

Пока неясно, как именно будет применяться искусственный интеллект, и как будет проходить его развитие. Известна способность искусственного интеллекта к саморазвитию. Если это так, то возможен риск выхода ИИ из-под контроля человека.

Влияние на свободу выбора человека

Находясь в сети, человек оставляет информационный след, обработка больших объемов информации позволяет создавать портрет человека, направляя на него индивидуальную рекламу, в том числе и политическую, что влияет на свободу выбора человека. Это может перейти в полный контроль над сознанием человека – манипулирование, зомбирование, и все то, чего многие боятся. А контроль этот будет осуществлять тот, кто обладает технологиями, которые мы называем искусственным интеллектом.

Что делать

Насколько реальны угрозы, и как их принять? Способен ли искусственный интеллект лишить нас работы и когда это наступит? Есть разные мнения на этот счет: называют 2030-й год, 2040-й. Но, видя, как стремительно происходят перемены и какими темпами движется цифровизация, можно предположить, что желаемая замена рутине появится очень скоро. Радоваться или волноваться? В ряде профессий она уже произошла.

К чему ведет цифровизация?

Последствия этого мы уже наблюдаем. Мы все активно цифровизуемся. Кто не в пространстве цифровизации – тот первым оказывается за бортом. Это касается не только карьеры, но и всех сторон жизни.

В мире есть значительные группы населения, у которых жизнь не связана с постоянным пребыванием в сети. Они вне возможностей, которые есть у остальных. Цифровизация сегодня – основа для любой профессии и для социального жизнеустройства.

При модели, нацеленной только на получение прибыли, люди будут становиться ненужными. Но если бы появилась новая ценностная модель – люди стали бы востребованы каждый в своем направлении.

Именно так задумывался искусственный интеллект – как помощник человеку. Он был призван освободить человека от рутины, чтобы дать ему творить и заниматься более ценными направлениями.

Как не остаться без работы?

Чтобы не остаться за бортом и не оставить без дела большую часть человечества – нужно соответствовать цифровым вызовам и не терять человеческого обличия. Важно работать с ценностями. Если мы станем роботами, мы станем не нужны сами себе.

Как быть с риском неограниченной свободы искусственного интеллекта? Действительно, выстраивая искусственный интеллект по своему подобию, можно получить нечто более сильное, что может уничтожить нас самих, как это бывает в фантастических фильмах и книгах фантастов. Инструмент может начать доминировать над своим создателем.

Не стоит всецело доверять машине, нужен контроль и постоянный анализ, чтобы не допустить отклонение от курса. Вряд ли кому-то хотелось бы запустить неконтролируемые процессы в свою жизнь, в компанию, в мир в целом.

Как мы планируем использовать роботов?

Стоит вспомнить произведения Айзека Азимова, где он вывел законы робототехники: робот не должен причинять вред человеку, должен заботиться о собственной безопасности, если это не противоречит первому закону, должен выполнять указания человека. Однако сейчас, когда мы вплотную подошли к роботизации, мы понимаем, что это слишком обобщенные правила и слишком универсальные категории.

Мир ценностно и цивилизационно неоднороден. Какому человеку должен подчиняться робот, что если между людьми конфликт? В условиях ценностно расколотого мира, робот – инструмент в руках одних и угроза для других.

Что мы считаем прогрессом?

Многое зависит от вектора. В чем людям помогут роботы? Что человек считает прогрессом прямо сейчас? Мы движемся в направлении духовного развития человека или в направлении удовлетворения потребностей? Если второе, то человек придет к деградации: роботы будут работать, а человек паразитировать. Возможно, это будет путем в тупик. К тому же искусственный интеллект может оказаться чище и гуманнее человека. Фантасты уже описали такие сюжеты, где роботов, а не людей, забирают в Рай.

Юридическая сторона вопроса и вопросы нравственности

В юридической литературе западных стран в связи с идеями роботизации сейчас обсуждается вопрос прав человека на искусственный интеллект.

Сейчас фантастика становится реальностью, и уже перестают удивлять размышления такого типа: если робот производит других роботов, кому они принадлежат? Что, если компании-производителю принадлежит только первый робот, остальных он не производит, а «рожает»? Что, если роботам начнут давать права, как и человеку? И чем отличается человек без души от робота? Если человека использовать, как роботов, то робот более выгоден, а если робот научится чувствовать и сопереживать – он и правда станет лучше бездушного человека.

Вопросы без ответов, которые заставляют задуматься о том, насколько важно грамотно использовать технологии. Важно понимать, что у искусственного интеллекта нет того, что мы называем духовностью, он не наделен эмоциями, нравственностью, он не может любить. Наверное, не стоит относиться к роботу, как к человеку, а человека ставить в один ряд с машиной. Именно за счет духовного потенциала человек до сих пор оказывался выше рационального расчета.

Что думают об ИИ известные и знаменитые?

Стивен Хокинг считал искусственный интеллект реальной угрозой жизни на Земле, Илон Маск, а также ряд ученых и изобретателей, соглашаются с этим. Директор Института будущего человечества в Оксфорде Ник Бостром выразил мнение, что ИИ способен уничтожить человечество буквально за секунду.

Однако не стоит забывать, что пока что речь идет о технологиях: тот самый сверхразум, который способен уничтожить планету, еще не появился. Ученые считают, что к середине нынешнего столетия он может появиться с вероятностью 50%.

Правда, появление такой сверхумной машины прогнозировали еще в прошлом веке. Прогноз не сбылся, но тогда, размышляя над подобной вероятностью, математик Ирвинг Джон Гуд, который во время Второй Мировой войны работал в команде расшифровки немецких шифров, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать».

То есть, искусственный интеллект, как только будет создан, первым делом станет пытаться управлять всеми существующими ресурсами, среди которых будет и человек. Перед ним не будет стоять такой цели, как благо человечества. Если перед искусственным интеллектом станет задача повысить производительность чего-либо, люди станут для него просто лишними, а точнее, сырьем, материалом.

Сможем ли мы контролировать искусственный интеллект?

В фильмах искусственный интеллект служит диктаторам, но вероятность такого сценария слишком мала: вряд ли сверхразум будет как-нибудь различать людей. Фильмы также показывают длительную борьбу людей и роботов. Более вероятный сценарий – все исчезнет в мгновение, превратившись в один большой компьютер, занятый ему одному понятными вычислениями.

Как не допустить подобного? Наверное, помнить, что важно все контролировать, важно ничего не начинать, не запускать и не включать, пока не будет уверенности в возможности выключить, остановить, скорректировать.

Однако сейчас все так стремительно развивается, что человек все больше привыкает «пробовать боем», жить в бета-версии. Уже сейчас некоторые системы, которые пока еще не обладают самообучением, способностью планировать действия и принимать решения, практически невозможно выключить. Вы не знаете, где находится кнопка выключения интернета? Думают ли создатели искусственного интеллекта о том, как смогут выключить его, будут ли предусмотрены меры безопасности?

Так не стоит ли прекратить разработку искусственного интеллекта?

Что, если это тоже уже необратимый процесс? Кто занимается его разработкой? Нет такой единой организации, которая бы вела такую разработку и подчинялась какому-то правительству. По миру разбросано множество частных компаний и лабораторий, которые по крупицам вносят вклад в создание нового искусственного разума. Это группы, занимающиеся программным обеспечением, нейробиологией, статистикой, дизайном интерфейсов.

Кто занимается разработкой универсального ИИ и для каких целей?

Занимаясь созданием общего искусственного интеллекта, команды разработки озвучивают полезные для человечества цели. Общий, универсальный, интеллект призван решать тупиковые проблемы, ускорять и оптимизировать нашу работу.

Когда мы говорим о сверхразуме и его опасности, речь идет об общем искусственном интеллекте (ОИИ). Термин звучит как Artificial general intelligence (General AI, AGI).

На данный момент удалось создать только «узкий искусственный интеллект» (УИИ), который выполняет только очень конкретные задачи. Искусственный интеллект, который уже есть сегодня, всего лишь выполняет некоторые точечные функции, помогает автоматизировать работу. Некоторые операции он умеет делать не хуже человека и даже превосходить его.

Если появится ОИИ, он будет решать задачи иначе. Это будет система, способная делать собственные выводы и самообучаться. Она сможет даже осознавать саму себя.

Работая над созданием общего ИИ, люди мечтают, что он будет использовать общемировые знания для решения каждого конкретного вопроса, учитывая при этом контекст, анализируя все возможные виды информации.

Предполагается, что ОИИ сможет решать любые задачи, но есть сферы, где его не планируют использовать, поскольку в них УИИ достаточно для эффективного функционирования.

Кто же ведет разработку общего ИИ? Недавно такой проект запустили в Google. Компания собирается обучить ИИ большому количеству навыков, после чего он станет универсальным, способным осознавать и обрабатывать все поступающие сигналы при любом способе передачи информации.

Сейчас эта разработка находится только на начальной стадии. В рамках этой работы протестированы нейросети и опробованы на проектах Google Switch Transformer, Gshard и других.

В Китае уже создан чип Tianjic, который использует методы нейробиологии и схему имитации человеческого мозга. Чип повторяет функции мозговых нейронов, способных воспринимать информацию и конвертировать ее в нервные импульсы для импульсной нейросети и обратно.

Работают над общим искусственным интеллектом и в IBM. Компания разработала сверточную нейронную сеть на нейроморфическом чипе TrueNorth. Сеть имитирует мозг человека, потребляя в тысячи раз меньше энергии, чем современные процессоры.

Что будет, когда в одной из лабораторий родится ОИИ?

Человечество похоже на ребенка, играющего с бомбой. Какая эмоция должна возникать у нас, когда мы узнаем о новых открытиях в области интеллектуальных систем – страх или радость от открывающихся перед человечеством перспектив?

Что делать человечеству? Учиться управлять своим будущим. То же самое нужно учиться делать компаниям и каждому из нас.

Хотите пробовать управлять будущим успеха вашей компании, прорабатывая различные сценарии развития ситуации, близкие к реальности и фантастические, – заказывайте деловые игры в ManGO! Games! Лучший способ проверить, что будет дальше – поиграть в это, сэмулировав ситуацию. Мы проводим деловые игры в очном формате и в онлайн. Прямо сейчас можно заказать каталог онлайн-игр!  

Понравилась статья?
Подпишитесь на нашу рассылку!
Мы будем сообщать о новых статьях и мероприятиях ManGO! Games
Подписываясь, я соглашаюсь с условиями обработки персональных данных