Проблемы искусственного интеллекта

Если бы не события на Украине, тема искусственного интеллекта в 2022 году стала бы главной в СМИ. Но что-то пошло не так, и нам навязали совсем другие проблемы…

Бурное развитие технологий играет с нами злую шутку. Технологии развились настолько, что их нагромождение создает у человека чувство беспомощности. Невозможно разобраться до конца, как работает то или иное устройство. Бесконечное количество фич, багов, скрытых настроек и пунктов меню заставляет задуматься о конечных ресурсах человеческого мозга и человеческой жизни.

С одной стороны, умные машины и компьютеры созданы для того, чтобы облегчить и улучшить жизнь человека. С другой – человек часто слишком много времени и внимания тратит на всё это многообразие.

Определимся с понятиями

Цифровизация, искусственный интеллект, боты, нейросети – слишком часто мы слышим эти слова. Настолько часто, что пришло время разобраться и всесторонне оценить – хорошо это или плохо?

Как обычно, сначала определимся с терминами. Какими характеристиками может обладать искусственный интеллект?

• Сбор, накопление и обработка информации.
• Самообучение.
• Выдача информации во внешний мир.
• Общение с человеком.
• Принятие решений. Пожалуй, это самый главный пункт.

Под эти пункты могут попасть такие системы, как машина, робот, компьютер, производственное оборудование, и так далее. Все они так или иначе обладают неким подобием разума. И имеют одну или несколько характеристик, описанных выше.

Но одна отличительная черта имеется у любого искусственного разума – он создан человеком. А значит, именно человек наделил его теми или иными способностями и параметрами.

Ну что, разобрались с терминологией? Я – нет. Дело в том, что сейчас грани различных понятий сильно размыты, и дать четкое определение той или иной системе затруднительно. Типичный пример, который всегда под рукой – телефон. Что это – компьютер, самообучаемое устройство, средство общения и развлечения, средство контроля над человеком, искусственный интеллект, устройство для цифровизации?

Робот на производстве электрощитов. До ИИ ему так же далеко, как калькулятору до Айфона. Завод IEK, Ясногорск

Что касается сферы электрики и электроники – умным домом с умными розетками и пылесосами никого уже не удивить. Уехать в отпуск и узнать с берега моря, какая температура в доме (и если нужно, её изменить) – обычное дело.

Пример – в статье про терморегулятор с Wi-Fi:

Terneo SX – умный регулятор температуры пола с Wi-Fi

Пара слов о цифровизации

Плюсы цифровизации очевидны: она облегчает труд человека по упорядочиванию и обработке информации. У нас чаще под цифровизацией понимают максимальный перевод человеческой жизни на «цифровые рельсы». Сюда относят платежные карты, электронные документы, цифровые паспорта, биометрию, контроль перемещения и доступа на объекты.

Уже есть добровольцы, которым вживили под кожу чип, несущий в себе всю информацию о владельце – от его паспортных данных и местонахождения до информации о состоянии здоровья и о реквизитах для платежа на кассе супермаркета. Удобно? Наверное.

Цифровизация работает прекрасно до тех пор, пока всё идёт как надо. Если вы – законопослушный гражданин, винтик системы, то у вас даже мысли не будет что-то нарушить или изменить.

Две цитаты в тему:

“Лучший раб – тот, который думает, что он свободный.”

“Я слишком повидал мир. Я плохой раб.”

Но тут можно довести до того, что грань между человеком и роботом станет почти неосязаемой – и тот, и другой будет послушно выполнять волю «хозяина». Фильмов на эту тему – более чем достаточно.

С другой стороны – ни одна система не застрахована от сбоев и действий «редисок». Почти каждый день слышно об утечках данных – например, в службах доставки, в банках или на сайтах. Это опасно? Да. Откажутся ли люди от удобств, которые даёт цифровизация? Нет.

Искусственный интеллект и нейросети

Пожалуй, лучший пример искусственного интеллекта – нейросети. Главное свойство нейросети – способность к быстрому обучению. Человек лишь задаёт нужный вектор на начальном этапе, а нейросеть продолжает сама, лавинообразно наращивая свои знания и, не побоюсь этого слова, творческие способности.

Например, нейросеть создаёт тексты, почти не отличимые от текстов, написанных человеком. Пример – языковая модель YaLM (Yet another Language Model) от Яндекс, на которой работает Алиса.

Есть и другие сервисы, например – для автозаполняемых сайтов. Это неприятное явление набирает обороты в Рунете. Нейросеть берёт несколько статей на заданную тему, и за несколько секунд генерирует вполне адекватный текст с высокой уникальностью. Мне, как блогеру, который пишет статьи руками и головой, крайне неприятно такое явление, но как с ним бороться – я не знаю.

Другой пример – нейросети, создающие изображения. Достаточно задать текстовое описание и выбрать стиль, и можно получить очень даже интересное изображение. Пример изображения, сформированного по запросу «электротехнический рынок»:

По мне – не очень, но суть просматривается. Если же задать нечто более абстрактное, результат будет впечатляющим.

Творческие люди против

Сейчас можно за пару минут создать вполне сносный текст. Я в тревоге, если не сказать в шоке – места простым блогерам и копирайтерам остается всё меньше и меньше. Искусственный интеллект наседает.

Текст, сгенерированный нейросетью.

Подозревал, что всё к этому идёт. 6 тыс. символов, 5 подразделов, 2 минуты. Зачем трудиться, если бот напишет с заданными параметрами, пока “копирайтер” сделает пару глотков чая? Я никаких параметров не задал, но если постараться, можно сгенерировать вполне сносную статью. Которую будут читать, комментировать, и воспринимать, как руководство к действию!

Кстати, многие каналы на Дзене и ВК пользуются нейросетью. Достаточно почитать некоторые рассказы «про жизнь». Вы правда считаете, что копирайтеры на текстовых биржах работают руками и головой? Ага. За 30 руб/1000 знаков.

Лично я жду нового закона, который обяжет все СМИ (в том числе соцсети и Дзен) в начале текста указывать крупными буквами, что текст сгенерирован нейросетью. Ведь иностранных агентов и рекламодателей обязали, а чем искусственный интеллект хуже?

Вот результаты этого социального эксперимента, который я провел на своем Дзене:

Как сделать электропроводку в квартире. Статья с разоблачением

Вместе с писателями протестуют против нейросетей и художники. Произведение, для создания которого профессиональному художнику нужно потратить в творческих муках не один день, нейросеть формирует за секунды. «Автору» лишь остается выбрать из нескольких результатов лучший, и использовать его по своему усмотрению – например, выставить на продажу.

Грандиозный скандал разгорелся в прошлом году, когда картина, сгенерированная нейросетью, заняла первое место в художественном конкурсе. А после того, как выяснилось, что большинство работ, представляемых на коммерческих арт-площадках, «дело рук» нейросетей, владельцы таких площадок начали с ними бороться.

Но и тут не всё просто – краски и кисточки в основном остались в прошлом веке, и много современных произведений делаются с помощью компьютера. Причем, часто заготовка делается при помощи нейросети, а автор вручную «допиливает» нужные элементы. Как это расценивать?

Положение осложняется тем, что большинство нейросетей имеют открытую структуру, что позволяет обучать их любому энтузиасту. Например, можно «натренировать» копировать стиль определенного художника. Или даже создать свой стиль, основанный на самых успешных работах «живых» художников.

То же самое относится к созданию музыки и видео. Но самое опасное – нейросеть может идеально копировать голос и видеоизображение конкретного человека. Достаточно её натренировать, предоставив «исходники».

Пример, с которым сталкивался каждый – звонок на мобильный с навязыванием какой-либо услуги. Я обычно перебиваю приятный женский голос вопросом «Ты робот?» В 99% звонок после этого обрывается, а я заношу номер в черный список. И лишь 1% испытывает от такого вопроса человеческие эмоции)

В настоящее время противостояние «олдскульного» творческого сообщества и сторонников нейросетей не ослабевает. Последние апеллируют тем, что прогресс не остановить, и борьба с нейросетями похожа на то, как в 19-м веке рабочие мануфактур ломали ткацкие станки.

Как нейросети внедряются в человека

Я уже говорил про чипы, внедряемые под кожу человека (инвазивный метод). Здесь правильнее говорить не про нейросети, а про нейроинтерфейсы. Но что мешает нейроинтерфейсы множества людей объединить в единую нейросеть?

Изначально подобные технологии разрабатывались для того, чтобы существенно улучшить жизнь людей с ограниченными возможностями. Например, парализованные люди могут управлять таким образом кибернетическими протезами, компьютерами и другими гаджетами.

Пример инвазивного нейроинтерфейса

Дальше – больше. Сейчас множество компаний освоили технологию, позволяющую писать тексты и общаться в социальных сетях без использования клавиатуры, при помощи, так сказать, силы мысли. Конечно же, такой способ общения даёт возможность играть в компьютерные игры.

Самой известной в этой области компанией является Neuralink Илона Маска. Её успехи в области нейроинтерфейса поражают. Neuralink удалось продвинуться дальше, чем это сделали конкуренты.

Сейчас полностью беспроводной чип, вживленный под кожу, проходит испытание на обезьянах. Но я уверен, что люди тоже участвуют в испытаниях.

Главное – технология Neuralink позволяет передавать информацию непосредственно в мозг человека. Для людей установка такого чипа даёт возможность восстановления зрения. Даже для тех, у которых возможности видеть не было с рождения. Ведь зрительная часть коры головного мозга всё ещё функционирует. То же самое относится к людям с нарушением слуха.

Чип Neuralink N1, вживляемый под кожу

В перспективе полностью обездвиженный человек сможет обрести полноценную жизнь. Ведь стимулировать и передавать информацию можно на любые участки мозга. А полученная в мозг искусственная реальность может дополненной, приукрашенной, изменённой. Для нейросети тут – раздолье!

Пример такого будущего показан в фильме «Суррогаты», когда люди лежали дома, а вместо них полноценной жизнью жили человекоподобные роботы-андроиды.

Спойлер: главный злодей, создавший этих андроидов, объединил их в нейросеть и таким образом получил власть над всем человечеством. Но потом Брюс Виллис как обычно всех спас и вернул всё «взад».

Скоро человека будет сложно отличить от робота

Надеюсь, я донёс до читателя главную идею статьи – любой искусственный интеллект, наделенный логическим мышлением и способностью творить и принимать решения, может быть вреден и опасен для человека. Ещё опаснее, когда такой интеллект принимает вид нейросети, способной обучаться.

Критикую? Предлагаю! Чтобы нейросеть не представляла опасности, нужно её ограничить такими правилами:

1. Действие любой системы, обладающей искусственным интеллектом, можно прекратить в любой момент без ущерба для человека и системы. То есть, в том или ином виде должна быть легкодоступная кнопка «Emergency Stop»или «Отмена». Например, нужно, чтобы робота можно было выключить в любой ситуации, а использование нейроинтерфейса можно было легко прекратить.
2. Человек должен иметь возможность сразу понять, что имеет дело с роботом. То есть, любой искусственный интеллект должен сразу давать понять человеку, с чем он имеет дело. Как с законом о рекламе – глядя на любой текст или изображение, мы должны сразу понимать, что это реклама.

Пожалуй, это самый важный закон, особенно актуальный в наши дни. Я бы даже поставил его первым законом робототехники:

«Первое, что должен сделать робот при встрече с человеком – идентифицировать себя как робота».

Законы робототехники требуют изменения

Пророк-фантаст российско-белорусского происхождения Айзек Азимов предложил знаменитые три закона робототехники, о которых логично будет упомянуть в контексте этой статьи. Вот эти законы в моей интерпретации:

1. Робот должен заботиться о безопасности человека.
2. Робот должен повиноваться приказам человека, если это не противоречит первому закону.
3. Робот должен заботиться о своей безопасности, если это не противоречит первому и второму закону.

На мой взгляд, эти законы крайне размыты. И робот, и человек могут их трактовать как угодно, в зависимости от понимания ситуации и сиюминутной выгоды. Сам Айзек Азимов в своих рассказах неоднократно поднимает тему этих противоречий.

На эту тему создано множество фильмов, в которых искусственный интеллект принимает решение, губительное для человека или даже для человечества в целом. А принимает такое решение робот по простой и логичной причине – он начинает считать человека опасным существом.

Главное – законы робототехники человечество должно применить в первую очередь к себе. Конечно, это выглядит утопией, но если бы это произошло, мир определенно стал бы лучше.

Статья впервые опубликована в журнале Электротехнический рынок и на портале Элек.ру.

Поделитесь мнением, что думаете на эту тему?

Понравилось? Поставьте оценку, и почитайте другие статьи блога!

(2 оценок, среднее: 4,50 из 5)

Загрузка...