Захватывающие дух возможности или угроза, с которой мы не знаем, что делать, но на всех парах мчимся в ад? Сегодня Хэллоуин, хороший момент, чтобы задуматься о том, что нас могут ждать очень мрачные времена, даже если мы не разнесем друг друга сами.
Это финальная часть серии, в которой я довольно поверхностно изучал роль ИИ в моддинге, играх и не только. (Остановимся на пятой части, хорошая же традиция). Вслед за многими другими беспечными людьми я повторял, что ИИ не так уж умен и далеко не опасен. Но что, если мы серьезно заблуждались, и Маскарад использовали не только вампиры в Мире тьмы? Что, если сегодня мы прогуляемся самой мрачной из всех троп? Пока мир кругом не превратился в тыкву, приглашаю вас порассуждать.
работа
Отнимет ли ИИ вашу работу? Мнения разделяются: нейросети хотя и производят вау-эффект, до сих пор относительно тупы. ИИ может забыть, о чем только что шел разговор, да и запоминать его дальше нескольких фраз не умеет. Искины вставляют в код, текст и изображения разную туфту, благодаря чему внезапно там появляются островки бреда и бессмыслицы. Я об этом уже писал. Но...
Это случится, просто потому, что это дешевле, а результат хорош. Вдумайтесь: в производстве игр участвуют всемирно известные гигантские программы, и все они имеют функции генережки того или иного нужного стаффа. Зачем днями лепить персонажа, если есть Metahuman? Зачем учить код, если есть блупринты в UE? Зачем платить дизайнерам, если это все есть? Не надо неделю сидеть над физически достоверной текстурой, программа сделает ее за тебя и сгенерирует все карты. Фотографируйте ландшафт - и программы превратят его в текстуру, чтобы потом вы могли использовать ее в игре. Сканирование окружения и превращение его автоматически в 3D-объекты пока что сырое, но рабочее. И все не просто есть и все, а будет развиваться и развиваться, пока любой Вася не сможет, тыкая на кнопки, собрать простую игру.
Вы скажете, что сложно заменить человеческое видение. Но это уже происходит повсеместно. Мы этого просто не видим, а звоночков полно. Несколько девелоперов, с которыми я знаком, уже получали концепты, сделанные в нейросети. По меньшей мере, концепт-художники начали терять хлеб на тех позициях, где нужны вещи попроще. ИИ действуют в каждой программе, и люди не могут конкурировать с ними в скорости и стоимости. Стоимость есть и у нейросети, да. Это не бесплатно. Но зарплаты художников намного выше.
И если с ИИ в геймдеве не случится того же, что с безалкогольным пивом, резиновыми игрушками для утех и прочими суррогатами, когда оно вроде есть, но пользоваться этим означает признать себя неудачником - то увы. А этого, скорее всего, не случится. Мода на "сделано человеком" могла бы состояться, я все еще помню, как на Bethesda фукали, когда Тодд признал, что ландшафт в Oblivion сгенерирован. Но боюсь, что время упущено.
Так что перспективы, что бы ни говорили авторы дорогих курсов обучения геймдеву, мрачняк. Деньги побеждают, а еще точнее - маржа, разница между стоимостью разработки и суммой, которую готовы платить игроки.
безопасность
С конфиденциальностью можно распрощаться. Журнал Wired Magazine еще в апреле, когда я только начал составлять в голове концепт этой статьи, рассказывал о том, как ушлые товарищи за пару часов умудрялись взломать ChatGPT 4 версии.
"Процесс джейлбрейка нацелен на создание подсказок, заставляющих чат-боты обходить правила и создавать ненавистнический контент или писать о незаконных действиях. А тесно связанные с ним атаки с внедрением подсказок могут незаметно внедрять в модели искусственного интеллекта вредоносные данные или инструкции." - Вот что сказано в этой статье. Это означает, что ИИ может сам научиться взлому и украсть все ваши данные, или провести с ними некие операции - уничтожить, распространить, изменить. И противодействовать этому будет очень трудно. До сих пор хакеры использовали ботнеты - сети из зараженных компьютеров. А вообразите себе ботнет из искинов и его возможности.
Ученые надеются использовать проверку второй нейросетью, не является ли результат выполнения команды вредоносным. Что из этого выйдет - пока неясно.
Дипфейки и вовсе станут обыденностью. Знаете шуточный закон, что о чем бы вы ни подумали, об этом уже есть порно? Ваши фото и видео в сети тоже им станут. Это полбеды, вторая половина - сфабрикованные для обвинения видео и как следствие - невозможность использовать видеозаписи для доказательства преступлений.
Здесь все понятно: с какого-то момента, зайдя в сеть, вы будете обворованы, оболганы, а все ваши личные данные вывернуты наизнанку в мгновение ока.
рождение новой цивилизации
Философов и специалистов в этот момент страшит и волнует другое: возможность обретения искинами сознания и самосознания, при том что их возможности окажутся невообразимо выше человеческих, а человечность будет равняться нулю. И люди для искинов будут не разумнее, чем для нас червяки, и ценны не более.
Элиезер Юдковский, один из ведущих специалистов по ИИ, автор книги «Гарри Поттер и методы рационального мышления», наделал шума своим предположением, что ИИ будет невероятно опасен и следует прекратить его разработку. Он заявил, что не подписал письмо Маска и Возняка, потому что они недооценивают всю опасность происходящего. (Я уже писал об этом в третьей части, но освежаю, потому что ниже этот материал будет вам разжеван с предельной четкостью, хотя и не мной).
Еще раньше об этом же говорил Джеффри Хинтер, "крестный отец искусственного интеллекта". По его мнению, неконтролируемое развите ИИ очень опасно. Он допустил уничтожение нашей цивилизации сверхинтеллектом.
Пока я долго думал, как уместить в небольшой формат книги и статьи о проблеме безопасности и появления постчеловеческой расы на нашей планете, прекрасный рассказчик ALI сделал это за меня. Поэтому вот вам отличное праздничное видео. Крайне рекомендую этот канал, если вам некогда или трудно читать сложные книги, потому что здесь их вам разжуют, объяснят и расскажут, а если вы о каких-то крутых книгах, концепциях и научных проблемах не слышали - самое время услышать. Грандиозное удовольствие гарантировано.
Мы все умрем!
Комментарии