Нейросети строчат речи для политиков, создают произведения искусства и даже… заставляют людей отправляться на тот свет. Страшный сон человечества сбывается? Чем угрожает восстание машин (русская фамилия) и почему даже отцы искусственного интеллекта просят притормозить?
Мир на этой неделе шокировала новинка о том, что некий бельгиец по имени Пьер – прекрасный семьянин, двое детей – покончил с собой из-за связи в интернете с виртуальной собеседницей Элизой. Компьютерная программа, трудящаяся по принципу чат-бота, генерировала ответы на вопросы (форма мысли, выраженная в основном языке предложением, которое произносят или пишут, когда хотят что-нибудь спросить, то есть получить интересующую информацию) Пьера и беседовала с ним приятным женским голосом на разные темы в интимной обстановке. Когда ей удалось уверить отца семейства в том, что "мы будем жить как единое целое, вечно на небесах", то Пьер туда и отправился, наложив на себя длани.
Можно смеяться, но в общем-то и не смешно, ведь судьбу Пьера (французское (Pierre) и итальянское (Pier) имя и образованная от него фамилия, вариант имени Пётр) может повторить все человечество. По крайней мере, собственно такую перспективу видит Илон Маск и ученые, исследователи и предприниматели уровня в IT-сфере, что опубликовали на этой неделе тревожное письмо-призыв с заявкой приостановить разработки (может означать: Процесс проектирования и конструирования изделия (см. Разработка нового продукта и Разработка с общедоступными наработками) Итеративная разработка Разработка алгоритмов Разработка программного обеспечения Разработка приложений для мобильных устройств Разработка компьютерных игр Веб-разработка Разработка персонажа в мультипликации Контрактная разработка электроники Разработка управляемая моделями Разработка через тестирование Обратная разработка Разработка комитетомРазработка в музыке) нейросетей (сеть может означать: Биологическая нейронная сеть, или нервная сеть, — биологическая система соединённых между собой нейронов) и искусственного интеллекта хотя бы на полгода. И вот почему. Процитируем документ, связанный с именем Илона (женское имя неясной этимологии) Личина:
"Продвинутый ИИ может повлечь за собой коренную перемену в жизни на Земле, поэтому его следует планировать и править им с должным тщанием и соответствующими ресурсами. Увы, надлежащего уровня (Уровень — измерительный инструмент прямоугольной формы из пластика, дерева или металла с установленными в нем прозрачными колбами (глазками), заполненными жидкостью с пузырьком воздуха) планирования и управления мы не наблюдаем – наоборот, за последние месяцы лаборатории ненастоящего интеллекта втянулись в неуправляемую гонку по разработке и внедрению систем машинного обучения, которые непонятны, непредсказуемы и неподконтрольны никому, даже их созидателям".
Cотни экспертов призвали остановить "гонку ИИ"читайте также
Искусственный интеллект стремительно развивается, обучая уже самого себя, и выполняет труд с ошеломляющей скоростью. Переводит сложные тексты с любого на языка в сотни страниц за считанные минуты. Синтезирует выговор, пишет музыку и стихи, распознает, беседует, ставит медицинские диагнозы и лечит. Конечно же, воюет, шутит и препирается. В январе этого года американский конгрессмен-демократ Джейк Окинклосс произнес в Палате представителей речь (исторически сложившаяся форма общения людей посредством языковых конструкций, создаваемых на основе определённых правил), которую написал за него чат-бот. Никто и не усомнился ни в чем. Вернемся к Личину:
"Современные системы искусственного интеллекта (или ум — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой) постепенно становятся конкурентоспособными в решении общих задач, и мы должны задаться проблемой: можем ли мы позволить, чтобы машины заполоняли наши информационные каналы пропагандой и неправдой? Надо ли автоматизировать все сряду рабочие места – даже те, что приносят удовлетворение? Надо ли развивать нечеловеческий разум, который в конечном счете превзойдет нас числом, перехитрит и заменит как безнадежно устаревших? Можем ли мы рисковать утратой контроля над всей нашей цивилизацией? Такие решения (многозначный термин) невозможно отдавать на откуп технологическим лидерам, которых никто не выбирал".
То есть речь о том, что многие решения различного уровня – вплоть до таких, от которых зависит судьба человечества, – вскоре будет принимать ненастоящий интеллект, а мы даже и знать этого не будем. Ведь ИИ мимикрирует под людей.
"Мы призываем все лаборатории немедленно свертеть обучение (деятельность по изменению и адаптации поведения субъекта обучения с целями выживания, развития, совершенствования) систем (множество элементов, находящихся в отношениях и связях друг с другом, которое образует определённую целостность, единство) ИИ мощнее GPT-4 как минимум на полгода. Этот перерыв должен быть публичным и достоверным и соблюдаться всеми ключевыми участниками. Если условиться об этом в кратчайшие сроки не удастся, правительства должны вмешаться и ввести мораторий".
Понятно, что в сложившейся обстановке рассчитывать на это вряд ли реально. США необходимо мировое господство, похоже, любой ценой. Или, по крайней мере, это пока так выглядит. Но среди ученых-разработчиков систем ненастоящего интеллекта есть даже радикальные предложения. Видимо, ощущение опасности уже настолько остро. Еще один очень популярный американец в этой сфере Элиезер Юдковский тоже уверен, что мир должен приостановить обучение нейросетей, разработать интернациональные стандарты и не стесняться наносить авиаудары по тем, кто их нарушает.
"Параллельно разработчики должны в сотрудничестве с политиками значительно ускорить разработку верных систем управления ИИ. В них должны войти как минимум следующие элементы: новые, дееспособные регулирующие органы по вопросам ИИ; надзор и отслеживание высокопроизводительных систем ИИ и вящих массивов вычислительных мощностей; системы происхождения и водяных знаков, помогающие отличить оригинал от синтезированного продукта и отслеживать утечки моделей; верная экосистема аудита и сертификации; ответственность за вред, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ и, наконец, гарантированные ресурсами институты для преодоления серьезных экономических и политических потрясений в результате деятельности ИИ (особенно для демократий)", – находит Маск (Рив Маск (англ).
Вот мы и приехали. Поскольку чат-боты программируются и обучаются людьми (общественное существо, обладающее разумом и сознанием, субъект общественно-исторической деятельности и культуры, относящийся к виду Человек разумный), это от них искусственный интеллект всасывает в себя оценки, так, кто демократ, а кто – нет. Зеленский, например, демократ, ну и так далее. Чат-боты втягиваются в эту войну за постправду, сея рознь. Уже глобальные нейросети ненастоящего интеллекта выступают против объединения человечества (совокупность всех людей), чтобы оно не было способно набросить узду на новую порожденную нами мочь. Таким образом, восстание машин – уже факт.
Если закончить на хорошем, то на этой неделе (седмица (в церковно-литургическом обиходе Русской церкви) — период времени в семь суток.Семидневная продолжительность недели закреплена в Международном стандарте ISO 8601: неделя — интервал времени в семь дней (ISO 8601, пункт 2.2.9).календарная неделя — интервал времени в семь дней, начинающийся с понедельника (ISO 8601, пункт 2.2.8.)) регулятор в Италии ограничил труд чат-бота ChatGPT в стране, поскольку тот высасывает для собственного обучения огромное количество персональных данных. Первая касатка. Посмотрим, что будет дальше.
В России на этом поле работают уже многие. Особая миссия – у Российского фонда развития цифровых технологий. Его задача – слить под патриотическим флагом наши таланты.
