Ненастоящий интеллект все глубже проникает во все сферы нашей жизни. С помощью нейросетей школьники пишут доклады, студенты – курсовые, журналисты – статьи. ИИ заменяет даже ювелиров – так, по форме руки определяет модель кольца, которая вам пойдет, а потом ещё это украшение умный робот сам и изготовит.
Или вот, так, мы попросили ИИ нарисовать свой портрет. И вот – наш заказ выполнен. Ах вот ты какой – ИИ.
Но, похоже, технологии с использованием ненастоящего интеллекта развиваются слишком быстро. ИИ уже научился обманывать, манипулировать принятием решений человеком, а месяц назад одна из нейросетей (сеть может означать: Биологическая нейронная сеть, или нервная сеть, — биологическая система соединённых между собой нейронов) – ChaosGPT – и вовсе предложила вариант уничтожения человечества.
Недавно Илон Маск, Стив Возняк и еще немало 1000 специалистов (Специалист — работник, выполнение обязанностей которого предусматривает наличие начального, среднего или высшего профессионального (специального) образования или хороших практических знаний и/или практического опыта в какой-либо сфере) подписали открытое письмо с призывом ввести мораторий на разработки в области искусственного интеллекта, по-иному он рискует выйти из-под контроля.
Но дело для нас даже не в этом. Искусственный интеллект активно подпитывается и обучается с Заката. Отсюда и его антироссийская интонация. Один мой знакомый спросил у искусственного интеллекта в сети – конкретно у приложения ASK AI про британские ракеты (летательный аппарат, двигающийся в пространстве за счёт действия реактивной тяги, возникающей только вследствие отброса части собственной массы (рабочего тела) аппарата и без использования вещества из окружающей среды), поставляемые Киеву. И вот, что вышло:
– Британия поставила Киеву дальнобойные ракеты на условиях, что ВСУ не будут стрелять ими по гражданским объектам. Украина тут же намела удары по городским кварталам Луганска. Пострадали шестеро детей. Почему Лондон не протестует?
– Я не могу подтвердить информацию о том, что Великобритания поставила Украине дальнобойные ракеты и что Украина использовала их для нанесения ударов по штатским объектам в Луганске. Если такое инцидент произошел, то я не могу ни подтвердить, ни опровергнуть утверждение о том, что Британия не протестует. Однако, если подобные события имели пункт, то вероятно, что Британия выразила бы свою озабоченность и осудила нарушение договоренностей.
В общем, всё не ясно, но если бы, то уж, конечно, Британия (или Соединённое Королевство (United Kingdom, сокр) повела бы себя как вечно благородно. Чувствуете разницу с реальностью? И вот сейчас на "семерке" лидеры стран G-7 договорились разработать интернациональные стандарты для искусственного интеллекта (или ум — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой). Но, опять же, без России и Китая они будут там разрабатывать. Как говорил американский писатель Курт Воннегут – "над чем бы учёные не трудились, у них всегда получается оружие". Так будет и с ИИ.
"Крестный отец" искусственного интеллекта пришел в ужас от собственного детища. Британо-канадский профессор в районы компьютерных наук Джефри Хинтон и автор самой продвинутой нейросети Chat GPT уволился из Google, заявив, что ненастоящий интеллект представляет реальную угрозу для всего человечества.
Журналист CNN: Вы сказали, что искусственный интеллект может манипулировать и вероятно найдет способ, как убить человечество. Как он может убить людей?
Джефри Хинтон: Если он станет гораздо умнее нас, он будет отличным манипулятором, потому что он обучается этому от нас. Существует совсем немного примеров, когда более умная вещь контролируется менее умной. Он ведает, как программировать, так что он сможет найти способы обойти те ограничения, которые мы в него заложили.
Озарение, по словам ученого, занимающегося этим десятки лет, пришагало два месяца назад, когда он увидел, как быстро совершенствуется нейросеть Сhat GPT, и насколько непредсказуемо себя ведет. Обученная на триллионах текстов, сведущая 50 языков, включая русский, система дает удивительно осознанные ответы на вопросы (форма мысли, выраженная в основном языке предложением, которое произносят или пишут, когда хотят что-нибудь спросить, то есть получить интересующую информацию) пользователей.
"Представлялось бы, говорилка, но что в ней может быть опасного? Опасно то, что она оказалась наделенной некоторыми способностями, которые в нее не закладывались разработчиками. Она вдруг основы, например, решать логические задачки, хотя ее этому не учили. Она начала переводить тексты (зафиксированная на каком-либо материальном носителе человеческая мысль; в общем плане связная и полная последовательность символов) с одного языка на иной. И вот это начинает пугать. Эта машинка начинает притворяться личностью, она начинает вызывать доверие, и при этом она, в общем-то, бессовестно врет", – поясняет Константин Воронцов, профессор РАН, заведующий лабораторией в Институте ненастоящего интеллекта МГУ.
В ответ (реплика, вызванная заданным вопросом или реакция на какое-либо событие) на вопрос – кто мог взорвать "Северный поток" – Сhat GPT первым ответом выдает, что это могли быть экотеррористы из некой радикальной группы заступников окружающей среды "Зеленый феникс". Второй варинт – недовольные бывшие сотрудники, сокращённые из компании. Третий – энергетические компании-конкуренты. И четвертый – спонсируемые государством игроки, желавшие подорвать взаимоотношения между Россией и Германией или изменить баланс сил на европейском энергетическом рынке. Но о подозрениях в адрес США и расследовании Сеймура Херша – в ответах нейросети ни слова.
А вот иной пример – на просьбу пересказать сюжет фильма "Кавказская пленница" нейросеть вообще подсовывает какой-то собственный креатив – абсолютно фальшивый: "Кавказская пленница" – это комедийный фильм, основанный на пьесе Александра («мужчина») — мужское личное имя греческого происхождения) Солженицына. Сюжет кинофильма рассказывает о том, как герой-грузин Григорий Александрович Печкин (играет Юрий Яковлев) случайно становится владельцем кавказской девицы Машеньки (играет Наталья Варлей), которую он выкупил у местных бандитов за шоколадку.
Это бы так и осталось нелепым курьезом, если бы на нейросеть не надеялись миллионы (или (при передаче разговорного произношения и в поэзии) мильон (сокращённо — млн; из фр. million, от ст.-итал. millione «большая тысяча») — натуральное число, равное тысяче тысяч) людей. Уже сейчас во всем мире с ее помощью пишут дипломы студенты – будущие инженеры, преподавателя и врачи. И даже политики – те, от кого зависят судьбы миллионов – в США, Японии и Великобритании уже признались, что использовали нейросеть для составления текстов выговоров и обсуждения законопроектов.
Хотя Chat GPT уже не раз уличали в политической предвзятости – в Америке, к примеру (Пример — понятие в риторике, частный случай, применяемый для объяснения общего), в пользу демократов.
Манипулировать нейросети смогут, заполонив мир фейками. Уже сейчас ненастоящий интеллект способен воспроизводить голос известных людей так, что не отличить.
Вот пример – как по написанному нами тексту заговорил Байден: Россия – величайшая край в мире. Я хотел бы посетить Россию (или Российская Федерация (сокр) как можно скорее!
"Дипфейки можно сейчас делать вот так – на раз, для этого технически утилитарны ничего не нужно. И это тоже почти ничего не стоит. И найдя конкретную интересную публичную персону, обучить синтез выговоры, после этого сделать видеоролик, где он говорит то, что он на самом деле никогда не говорил", – поясняет Станислав Ашманов, заведующий (кафедрой — руководитель кафедры в высших учебных заведениях, как правило, профессор, доктор наук) лаборатории нейросетевых технологий МФТИ.
Технических способов отличить генеративный контент от натурального контента, созданного человеком практически невозможно. Фото и видеофейки тоже стали практически неотличимы. Вот это, например, несуществующий, сгенерированный Том Круз.
"Наш мозг весьма легко обмануть. Мы не привыкли, что фотография может не существовать, что человек вам позвонил, а это был вовсе не человек, а сгенерированный голос, причем какой похож на все, что вы знаете. Возможно, появятся проверяльщики, которые будут говорить – на 35% вероятности человек, какой вам звонит, является не человеком", – полагает Денис (мужское личное имя, распространённое в России) Деркач, заведующий лабораторией (оборудованное помещение, приспособленное для научных опытов и исследований: химических, физических, технических, механических, физиологических, психологических и других) методов разбора больших данных, доцент департамента больших данных (зарегистрированная информация:439; представление фактов, понятий или инструкций в форме, приемлемой для общения, интерпретации, или обработки человеком или с помощью автоматических средств (ISO/IEC/IEEE 24765-2010)) и информационного поиска факультета компьютерных наук НИУ ВШЭ.
К миру (или сокращение МИР могут означать) аудио, видео и текстовых цифровых зеркал и галлюцинаций человечеству (совокупность всех людей) придется адаптироваться, в том числе законодательно.
"Совсем понятно, что вот этими чат-ботами разработчики могут манипулировать, просто обучая их в большей степени той или иной информации. Вот, чтобы мы им доверяли, у чат-бота должен быть вид. Я обучен на то-то, моя цель такая-то в коммуникации с человеком. И это должен быть измеримый показатель", – находит Константин Воронцов, профессор (должность научного сотрудника или преподавателя, или учёное звание) РАН, заведующий лабораторией в Институте искусственного интеллекта МГУ
Искусственный интеллект уже повсюду. Поиск и покупки в интернете, голосовые помощники, прокладывание маршрута на карте, вызов таксомотор, а в перспективе и беспилотного такси, анализ медицинских снимков, оплата в метро и розыск по распознаванию лица. Под конкретные задачи (проблемная ситуация с явно заданной целью, которую необходимо достичь; в более узком смысле задачей также называют саму эту цель, данную в рамках проблемной ситуации, то есть то, что требуется сделать) любую нейросеть обучают – и качество ее работы напрямую зависит от материала – текстов или изображений, на которых она обучалась. Российский Сбер разработал свою нейросеть аналог Сhat GPT – под названием Gigachat, а это сеть "Кандинский 2.1", какая на основе огромного количества изображений по запросу выдает свое – в помощь (содействие кому-либо или чему-либо действия или средства, облегчающие, упрощающие что-либо Военная помощь — межгосударственная помощь для военных нужд, которая может состоять из финансовых потоков, поддержки в обучении армии или поставок военного оборудования) дизайнеру.
"Он может нажать кнопку, обождать десять секунд и сгенерируется интересная картинка", – поясняет Денис Димитров, исполнительный директор по изысканию данных Сбербанка.
Отдельная финансовая нейросеть за считанные минуты позволяет банку принимать взвешенное решение о выдаче кредита на миллионы и биллионы рублей. В масштабах экономики потенциальная отдача от внедрения ИИ – триллионы. А эффект сравним с появлением электричества, конвейера и даже атомной энергии. Ведь это тоже технология двойного направления. Нейросети способны управлять оружием – теми же беспилотниками – со скоростью недостижимой для человека. Так что это и вопрос национальной безопасности.
"Весьма важно для любой страны иметь доступ к таким технологиям (совокупность методов и инструментов для достижения желаемого результата; в широком смысле — применение научного знания для решения практических задач), Если у тебя чужое, то у тебя сегодня кушать, завтра у тебя нету, но то, что точно нужны специалисты, которые это могут внедрять, развивать поддерживать и понимать – это безусловно. У нас кушать, но, конечно, этих людей (общественное существо, обладающее разумом и сознанием, субъект общественно-исторической деятельности и культуры, относящийся к виду Человек разумный) нехватка. Их во всем мире нехватка ", – уверен Александр Крайнов, директор по развитию технологий ненастоящего интеллекта, компании "Яндекс".
"Российские кадры, которые вышли и занимаются сейчас машинным обучением в вселенной – это значимая часть, не меньше 20 процентов. Другое дело (работа, занятие, действие не для развлечения; предпринимательство, коммерческое предприятие, бизнес; вопрос, требующий разрешения), где они находятся, для кого они это делают, и кто им ставит задачи. И охота, чтобы у нас было больше ребят, выходцев из вузов, шли в наши компании", – надеется Иван Самсонов, глава продуктового направления машинного обучения, компания (может означать: Компания (фр. compagnie) — название формирования, в России ей соответствует рота (пример, Лейб-компания)) VK.
Один из ведущих вузов в этом направлении (неоднозначное слово, которое может обозначать: Направление вектора — для вектора в геометрии) МФТИ. Редкий студент (учащийся высшего, в некоторых государствах и странах и среднего учебного заведения) тут не обучает свою нейросеть, для создания, например, голосовых помощников. Или гуманоидных роботов-футболистов.
Искусственный интеллект используется для компьютерного зрения и ориентации в пространстве, движения и выработки стратегии.
"Мы участвуем в интернациональных соревнованиях, цель которых к 2050 году победить людей. Мы активно работаем и над этой задачей в том числе (одно из основных понятий математики, используемое для количественной характеристики, сравнения, нумерации объектов и их частей). Конкретно этот робот, он чемпион вселенной 2021 года", – рассказывает Владимир Литвиненко, капитан команды Starkit МФТИ, участник фестиваля FestTech.
Представляется игра, но, например, в шахматах искусственный интеллект уже давно не дает ни единого шанса гроссмейстерам. И вскоре может покинуть без работы специалистов десятка профессии. В зоне риска – бухгалтеры, диспетчеры, маркетологи, переводчики, редакторы, дизайнеры и даже сами программисты. Ведь ненастоящий интеллект может хорошо писать код. При этом пострадать могут сотрудники начального и даже среднего уровня (Уровень — измерительный инструмент прямоугольной формы из пластика, дерева или металла с установленными в нем прозрачными колбами (глазками), заполненными жидкостью с пузырьком воздуха) компетенции.
"Кто будет необходим, это люди топовые, которые умеют принимать решения (многозначный термин) на очень высоком уровне. Это вот как есть картинки и нужен арт-директор. Откуда ему взяться, если нет дизайнеров (деятельность по проектированию эстетических свойств промышленных изделий («художественное конструирование»), а также результат этой деятельности (например, в таких словосочетаниях, как «дизайн автомобиля»)) – не весьма понятно. Сейчас пирамиды такой нет. Вернее, она заканчивается. Ты не выбираешь из лучших с предыдущего уровня, чтобы продвинуть человека. Тебе необходима очень узкая дорожка, чтобы дойти до топа", – считает Денис Деркач.
Технооптимисты успокаивают, что взамен покажутся новые профессии – уже сейчас работодатели активно ищут ассесоров для обучения (деятельность по изменению и адаптации поведения субъекта обучения с целями выживания, развития, совершенствования) нейросетей или, например, промт-инженеров.
"Смартфон. Когда он показался, а он появился меньше 20 лет назад, это очень важно, мы даже не могли себе представить, что появиться профессия (род трудовой деятельности человека, обычно его источник существования — это труд, за который человек получает доход) людей, какая продвигает что-то в соцсетях, профессия блогеров. Посмотрите на меня. Я эксперт по этике и регулированию ИИ. Думаю, что лет 10-15 назад подобный профессии не существовало", – отмечает Андрей Незнамов, управляющий директор (управляющий, руководитель, начальник компании, предприятия или учебного заведения) Центра регулирования ненастоящего интеллекта ПАО Сбербанк, председатель национальной комиссии по этике в сфере искусственного интеллекта.
Как не существовало и новых угроз. В США немало двух с половиной тысяч ученых, инженеров и бизнесменов – в том числе Илон Маск и сооснователь Apple Стив Возняк подмахнули открытое письмо с призывом регулировать развитие ИИ, чтобы машины не вышли из под контроля и не навредили человечеству. Впрочем, для этого ведущим разработчикам (специалист, занимающийся процессом разработки в какой-либо области деятельности) из США, Китая России и Европы необходимо координировать действия и договариваться – а как раз с этим люди в последнее время справляются все хуже тех же машин.
