Журнал "Трамплин"

апрель / 2023 • Точка зрения • каждым днем становится все популярнее и доступнее для всех слоев населения. Борьба за власть над вниманием В здании, в транспорте, на улице, – всюду идет борьба за внимание человека, мы пе- регружены лишней информацией. Самая же ожесточенная борьба идет в интернете. Кликбейтные заголовки, мерцающие бан- неры, сексуальные подтексты, игра слов, емкие метафоры, оформленные в яркие образы, игровые механики – все вокруг пытается подчинить наше внимание. Со- временный маркетинг сделал больше для разрушения психики человека, чем кто-ли- бо или что-либо еще. Средство доставки «прямо в мозг» всего этого информацион- ного мусора – ежедневно, ежечасно у нас в руках. Мы сами, по своей воле стали раба- ми этой техногенной системы. Лучшие умы исследуют биологические аспекты нашего с вами поведения с помо- щью больших данных, и нашей биологиче- ской «прошивки» – психофизиологии. Они изучают наш мозг и психику, выявляют закономерности и законы функционирова- ния, формировавшиеся миллионы лет эво- люции, и затем используют это против нас, чтобы увеличить «потребление». К тому же, большинство из нас являются дофами- новыми наркоманами, которые не могут без смартфона прожить даже один час. Лягушку варят медленно А теперь представьте, что качество и до- стоверность транслируемой и получаемой нами информации становиться все хуже: ее все больше, ее качество все ниже, а досто- верность и вовсе стремиться к нулю. При- чем это происходит медленно и постепен- но – и как следствие незаметно. Сначала этот процесс был обусловлен об- щим падением уровня образования – на- пример, в начале 2000 годов для школьни- ков появились готовые домашние задания, сборники сочинений, книги с кратким содержанием, которыми охотно пользо- вались нерадивые ученики. В интернете этот процесс был проявлен в борьбе за по- сетителей сайта, потому что были важны только два фактора – количество контента и количество его просмотров. Целью были рост показов рекламы и прибыль, как след- ствие в погоне за показы, качественная журналистика ушла на второй план. Мас- сового потребителя просто лишили каче- ственного контента, он стал не нужен. Появление Youtube, и увлечение видеоро- ликами привело к масштабному «разви- тию» клипового мышления. Люди переста- ли читать длинные тексты, даже появился Орудие когнитивной войны Руслан Киямов, ИТ- предприниматель, преподаватель ОмГУ рассуждает над тем, куда приведут человечество «игры» с ChatGPT Человека погружают во все больший информационный контекст неопределен- ности, неясности, недостоверности, дезинформации и откровенной лжи. специальный термин – «лонгрид». Теперь мы получили еще одну мощную техно- логию по генерации глупостей и продол- жение тренда на деградацию – нейросеть ChatGPT, и ее аналоги. Почему ситуация будет усугубляться? По- тому OpenAI «выпустили джина», они со- здали технологию, способную быстро и на первый взгляд качественно синтезировать тексты, буквально за секунды. «Армия идиотов» получила возможность генерировать осмысленные тексты, похо- жие на правду, но ей не являющуюся. Пока что мы просто «утонем» в информацион- ном мусоре. Как обмануть человека? Главная функция ChatGPT заключается в простой, быстрой генерации «осмыслен- ного» текста по запросу пользователя. Уро- вень текста такой, что не только обычный человек не отличит его от текста, написан- ного другим человеком. Естественно, так происходит не во всех областях, и если правильно сделать запрос, то можно с лег- костью обнаружить неточности и ошибки. Но с учетом скорости развития этой техно- логии – это ненадолго. В 1950 году Алан Тьюринг предложил тест, который был назван в его честь, как способ измерения интеллекта машины. Тест стал- кивает человека с машиной в обычном раз- говоре. Если машина «может» обмануть человека, заставив его думать, что она тоже человек, то говорят, что она прошла испы- тание. Тест Тьюринга – это проверка спо- собности машины демонстрировать раз- умное поведение, и он считается сильным индикатором искусственного интеллекта. ChatGPT вошел в историю, став вторым чат-ботом, прошедшим данный тест. LaMDA AI от Google прошла тест летом 2022 года. Что такое когнитивное оружие и ког- нитивная война? ChatGPT - орудие, а не оружие, по- тому что ChatGPT - всего лишь часть применяемого спектра технологий когнитивного оружия. Если говорить простыми словами, когнитивная война – это процессы внедрения в сознание людей потенциального противника де- структивных или нужных автору идей, убеждений, образов, смыслов. Оружие – это различные методы, способы и тех- нологии, их совокупность для осущест- Основным «полем боя» когнитивной войны является интернет формации, а также проверка информации на достоверность. Именно такая информа- ция теперь на вес золота. Но качественных решений этой задачи – или не существует, или их нет в открытом доступе! А есть ли угроза? На первый взгляд, нам ничего не грозит, ChatGPT все еще не способна генериро- вать знания и оперировать смыслами. Пока не способна! Эта технология всего лишь система преобразования и трансформации информации, пусть и очень качественная. Поиск, классификация, структуризация, систематизация информации – это она де- Новая настоящая сверхзадача – поиск качественной информации, проверка информации на достоверность А что будет дальше? Люди сами начинают подменять свои собственные мысли текстами из ChatGPT. Они не пишут самостоятельно, они пишут запрос, получают ответ, и оформляют его как свой. Потому что так быстрее, и часто текст нейросети получается качественнее, чем собственный. Важность написания текста состоит прежде всего в пользе для того, кто его пишет, и лишь потом для того, кто его читает. Люди задают вопросы и получают отве- ты, которые, кстати, могут быть не толь- ко не точными, но и вообще не верными. Но очень похожими на правду. И здесь кроется очень важный аспект когнитив- ной войны – возможность полнейшей де- зинформации и подмены понятий. Самое страшное, что весь этот инфор- мационный смрад начинает распростра- нятся с помощью социальных сетей, как забавная игрушка, не утруждающим себя репостом, без осознания последствий. Нет контроля информации, вообще ника- кого. Наше средство прямой «доставки в мозг», которое мы используем совершен- но добровольно каждый день, начинает нам доставлять этот самый «отравлен- ный» контент, влияя на наше умственное и эмоциональное состояние. Новая сверхзадача В текущей конфигурации социальных се- тей и мессенджеров, больших и маленьких медиа, появляется новая настоящая сверх- задача – поиск и проверка качественной ин- лает великолепно. Но только с простыми видами информации. Специалисты из разных «сложных» обла- стей знаний, например, химия или исто- рия, отмечают что ChatGPT не способна дать сколько-нибудь целостный, полный, или правильный ответ на заданный вопрос из его области знаний. ChatGPT пишет осмысленный по структуре и семантике текст, которой совершенно не соответству- ет смыслу (сути) вопроса. Запрос отправлен. Ответ получен. Инфор- мация по запросу выведена, и связана в текст семантически верно. Но с точки зре- ния знаний, полученный ответ может быть полным бредом, который может распоз- нать только человек знающий. Люди как носители знаний Люди являются носителями знаний. И вот тут кроется самая большая опасность – массовое использование подобных систем может привести к тому, что носители зна- ний останутся, а знания в них «протухнут». Незнающие люди, не способные отличить «правду» от неточности или откровенного бреда – будут потреблять контент, сгене- рированный незнающими людьми с по- мощью незнающей нейросети. Именно в этом качестве, ChatGPT является орудием когнитивной войны. Это рекурсивная техносоциальная систе- ма, оказывающая деструктивное влияние на знания и мышление человека в частно- сти и деградационное влияние на обще- ство в целом. 30 Новые технологии Фото предоставлено автором статьи 31 трамплин I возможности апрель / 2023 вления этих процессов. Основным «по- лем боя» когнитивной войны является интернет. Формально, идеи, образы и смыслы могут и не быть деструктивными, а вполне себе интересными и «глубокими», яркими и необычными. К тому же, их просто может быть невероятно много – для того, чтобы не было мировоззренческой целостности. Ярким примером может являться уже всем надоевшее «окно Овертона» или забытый «плюрализм мнений» в условиях всеобще- го падения качества образования. Очень яркий бытовой пример – вирусные ролики про «химический снег, содержа- щий химтрейлы, снежок, который не тает от огня зажигалки». А также множество других примеров, которые стали для мно- гих чем-то обыденным и даже незаметным – «человек - паук» на детских праздниках, специалисты из соцсетей всех мастей и без образования, «информационные пузыри» рекомендательных систем, абсолютное многообразия контента, «плоскоземель- ные» теории, культура отмены и атомиза- ция общества, демократические ценности. Ясность намерения Возможно, сам ChatGPT и технология, лежащая в его основе (NLP), не задумы- вались именно как орудие, но мне кажет- ся, что нейросеть начинает выполнять эту роль. Роль разрушающего влияния и воздействия на наше внимание, мышле- ние, знания, и как следствие психику. Человека погружают во все больший информационный контекст неопределен- ности, неясности, недостоверности, де- зинформации, и откровенной лжи. А чем сильнее такой контекст, тем сложнее ра- зобраться, где правда, а где вымысел, тем сильнее уровень стресса как человека, так и общества в целом. Причем, люди с охотой погружаются в пучину самосто- ятельно – они активно пользуются этим новомодным инструментом, который с