Читать все посты

Игры механического интеллекта

Из гнили да из плесени бальзам извлечь пытаетесь
И корни извлекаете по десять раз на дню
Ох, вы там добалуетесь, ох, вы доизвлекаетесь ..
(В. Высоцкий)

Не успели мы осознать последствия коллективного сумасшествия коронавируса, идиотской войны, развязанной режимом шестой части суши, и вот новая напасть — Искусственный “Интеллект”, готовый завоевать мир и подчинить себе оставшиеся в живых интеллекты естественные. 

Поскольку реальность наша и так уже недалеко от миров Е. Замятина, А. Ранд, Д. Оруэлла — а может быть даже дальше — вполне реальными представляются и (пока!) футуристические сцены фильмов “Терминатор”, “Матрица”, “Назад в будущее” и другой псевдонаучной фантастики. 

Поводом, как мы знаем, послужил прорыв в сфере языковых моделей, способных понимать наш человеческий язык и даже отвечать на нем же, При этом какой именно язык — русский, английский, китайский — не так уж и принципиально. 

У нас, пользователей сервисов ChatGPT, Bard, Bing складывается впечатление что модели эти обладают некими свойствами интеллекта: общаются, чувствуют, даже обладают собственной волей. И будучи куда более способными в “мыслительной” деятельности чем отдельный человек, в скором времени подчинят нас своей власти …. (шум ветра, тревожная музыка, молнии среди темноты, буууу!)

Большую путаницу и большой шум вносит использование самого слова “интеллект”:

Интелле́кт (от лат. intellectus «восприятие»; «разуме́ние», «понимание»; «понятие», «рассу́док») или ум — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой (https://bit.ly/40AIwNH). 

как будто языковые модели умеют думать. Ничего подобного!

Посмотрим где тут “мухи” а где “котлеты”. Где шумиха, хайп (модное преувеличение, hype), а где рациональное зерно. Какое оно, да и есть ли вообще? Обладает ли языковое моделирование хоть какими-то признаками интеллекта или вторая “И” в устоявшемся термине ИИ (дословный перевод Artificial Intelligence, AI) это просто дань традиции, исторически сложившийся артефакт как скажем “компьютер” (дословно “высислитель”), который в своей современной реинкарнации не так уж часто используется именно для практических вычислений. 

Получить представление об этом “нечто” лучше всего из первых рук. Тем более такая возможность есть для всех и каждого (в некоторых странах придется использовать VPN). Иначе будет “не читали, но осуждаем / приветствуем”. Итак, общаемся на отвлеченные темы с долей чувства юмора, особенно после первого ответа …

Спасибо! Садитесь. Твердый кол. Но все же попытаемся сделать минимальную работу над ошибками по горячим следам:

“Всё равно, что в лоб ему,
Что по лбу — всё едино!”

Да, уж ….

Для справки: музыку к песне “Город Золотой” написал советский композитор и лютнист Владимир Вавилов (под названием “Кансона”) а слова — поэт и переводчик Анри Волхонский, правда в оригинале было “Над небом голубым” — https://bit.ly/3MsEDGH)

Возможно конечно это какое-то скрытое чувство юмора, которым обладает ИИ и из глубин своих векторных терабайтов тихонечко посмеивается над нами. Шутки в сторону! Более рациональное объяснение происходящему я нашел в статье лингвиста и философа Н. Хомского “Ложные обещания ChatGPT”  опубликованного в 8 марта 2023 в New York Times (https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html):

“Действительно, такие программы застряли в дочеловеческой или нечеловеческой фазе когнитивной эволюции. Глубочайшим их недостатком является отсутствие самой критической способности всякого интеллекта: сказать не только, что есть, что было и что будет — это описание и предсказание — но и то, чего нет и что могло бы быть и быть не может. Таковы составляющие объяснения, признак истинного разума”

Не претендуя на академические знания в области ИИ хочу подчеркнуть одну, как мне кажется, важную особенность происходящего: наш искусственный собеседник НЕ обладает способностью мыслить, по крайней мере так как это делаем мы. Он (она? оно?) просто-напросто ищет наиболее вероятную комбинацию букв, слов, предложений в ответ на ту комбинацию букв, слов, предложений которую набрали на клавиатуре мы. И делает это настолько эффективно, что у нас складывается впечатление “собеседника”. Все!! “И кроме мордобития — никаких чудес”.

Чувство юмора и ошибки в знании российской рок-культуры (см. выше) конечно же дело времени и тренировки, минус ошибки программистов. Но сам принцип “мышления” этого собеседника вряд-ли поменяется. Ну или это будет нечто качественно другое, новое, и скорее всего еще не скоро.

Данная практика хорошо описана в мысленном эксперименте “Китайская Комната” (https://bit.ly/3m3RAMb). Человеку, не знающему китайский, но обладающему магической возможностью моментально найти ответ во всем, что когда-либо было написано на этом языке, задают вопрос на китайском и он практически моментально отвечает на нем же. У наблюдающих, да и у самого задающего вопрос (возможно даже носителя языка) складывается впечатление что человек на самом деле говорит по-китайски, но ….   

Ответы роботов механистичны, предсказуемы. А что бы вы хотели ожидать? Они не требуют и не подразумевают акта творчества — создания смысла, даже самого малого, не говоря уже о чувственности. В их “нейронных сетях” (в которых на самом деле нет никаких нейронов!) не существует и не может существовать любопытства (английское слово “curiosity” на мой взгляд лучше отражает суть). 

По сравнению с этим “интеллектом” ответы поисковых систем — Гугл (Yahoo, или динозавра AltaVista) более человечны просто потому, что Гугл вовсе не притворяется изобретателем нового. Мы лишь находим то, то (пока!) написано людьми. Однако, при работе с Гуглом чтобы получить нужную информацию и сделать ее полезной, нам потребуется и собственный, естественный интеллект. Ну и время, конечно. А тут — нате вам! Вот ответ, контент, текст. Выглядит вроде бы неплохо. И сразу. 

Интересно заметить что ChatGPT и его собратья врут и не стесняются. У них нет чувства стеснения, как нет и не может быть никаких других человеческих чувств. Нам свойственно очеловечивать эмоции собак и котов, и скорее всего по праву — у них есть эмоции, просто другие, нам непонятные. Мы все же думаем о них как о существах живых, хоть и ниже на пару ступеней эволюции, но всеже подобных нам. Потому и наделяем их своими — собаки “улыбаются”, коты “обижаются”. Никакой из ИИ не обладает чувственностью. 

Вранье современных языковых моделей (т.н. “галлюцинации”) можно заметить довольно просто: на один и тот-же вопрос будут разные ответы, притом противоречивые и часто все ложные  (см. выше). А что если со временем алгоритмы чуть “поумнеют” и будут с достаточным постоянством утверждать что песню “Город золотой” написал советский и российский рок-музыкант Филипп Агутин? 

Как мы знаем, ложь сказанная достаточно много раз, имеет тенденцию стать “правдой” в неокрепших биологических умах. Исторических и современных прецедентов пруд-пруди. А что если речь не о превратностях авторства современной музыки а, скажем, о науке, медицине, политике, истории? Количество публикаций контента, сгенерированного ИИ быстро превысит написанное людьми, и даже возможно станет неким трендом, мейнстримом в недалеком будущем. Может даже появится некая “ИИ-педия” — мир, с точки зрения языковых моделей и ИИ.

***

А если подкинуть какую-нибудь задачку, не связанную с надобностью человеческого воображения, скажем:

Ответ верный! Да еще и с комментариями на языке вопроса. Но что делать если вы не знакомы с программированием — как проверить данный вам ответ? Придется взять его на веру (опять таки, см. примеры выше), быстро выучить язык JavaScript или еще лучше —  спросить совета специалиста. 

Языковые модели замечательно генерируют контент, но не более. Именно контент, а не содержание, не статью, не книгу и не смысл. От них этого ожидать бесполезно. А кто же потенциальные потребители этого контента?

А потребители этого контента как правило люди (в биологическом смысле), которые в силу своей профессиональной деятельности, мировоззрения, стиля жизни сами довольно мало обладают человеческим мышлением. Они больше автоматы чем люди. А потому автоматический контент современных ИИ для них — золотое дно.

Вместо того, чтобы самому написать статью с весьма предсказуемым, механистическим смыслом можно попросить это сделать ИИ. Экономится время, не говоря уже о деньгах. Но для кого? Кто будет потенциальными читателями? Да такие-же полуавтоматы с биологическими мозгами. А в скором времени, возможно, и без таковых. Скажем, один ChatGPT научится читать книжки другого, и даже писать на них рецензии. 

Тема “роботизации” человеческих мозгов, человеческой деятельности, интересовала меня  задолго до появления современных языковых моделей — Страна улыбающихся роботов (2011). С появление ChatGPT и иже с ними мысли из прошлого только подтвердились. Людям в повседневной деятельности надо все меньше и меньше человеческого, индивидуального, личностного и все больше и больше универсального, механистического.

Вполне возможно что ИИ, даже в данной довольно примитивной реинкарнации (когда второе “И” не совсем “И” или даже совсем не “И”) скоро вытеснит множество профессий — маркетологов, блогеров, кодировщиков, менеджеров среднего звена, банковских клерков, а то и всяких там адвокатов с прокурорами. Но бояться тут особо нечего. Уже сегодня эта братия, или по крайней мере значительная ее часть, больше напоминает механизмы, нежели людей. Просто среда исполнения алгоритмов — runtime — из их биологических мозгов перекочует в более эффективные электронные. 

Профессиональные и корпоративные паразиты пополнят бесполезный класс. Безусловно, их надо будет чем-то занять чтобы не думали лишнего. Индустрия развлечений, массовый спорт, компьютерные игры — все это займет время бесполезного мышления. Чем бы не тешились.

Человеческое останется человеческим и никуда не денется. В современной механистической безличной жизни его и так немного. Компьютерные картинки, кино и вот сейчас “как бы” умные беседы и диалоги — все это лишь отдаленно похоже на творения настоящего интеллекта, да и то только по форме. Нам еще предстоит понять что такое интеллект, сознание, если вообще слово “что” уместно в данном контексте. 

***

Литература, музыка, театр, философия, накука, искусство — все это останется в области натурального человеческого интеллекта  и только его, неотделимого от чувственности, эмоциональности, любопытства, воображения. По крайней мере пока, на ближайшие пару сотен лет.

***

Товарищи ученые!
Доценты с микрофонами,
Запутались в экранах вы,
Замучились в нулях

Сидите тут соревнуетесь
Кто скажет что-то умное
О тех умах искусственных
Все споря в пух и прах

Товарищи ученые!
Кончайте поножовщину
Бросайте ваши прения
По части GPT

Вернитесь в мир обыденный
Ведь лучше же и проще же
Мозгами человеческими
Истину нести

Апрель, 2023