КонтактыКарта сайта

В ближайшие 20 лет нейросети «убьют» интернет.

В ближайшие 20 лет нейросети разрушат само понятие «факт». Толчком к процессу разрушения представления о «правде» и «факте» станет доступность и удешевление механизмов искажения реальности. Любой человек сможет сгенерировать правдоподобную информацию о событии с фото и видео подтверждением, хотя этого события в реальности не происходило.

Уже сейчас существуют примеры технологий искажения реальности, энтузиасты с помощью технологии нейросетей начали генерировать новый мир, уже 2 года существует пример нейросети, способной накладывать чужие лица на людей из видео, в 2019м Google анонсировала исходный код генеративной нейросети, способной имитировать любой голос из текста с качеством, не отличимым от оригинала. Однако, она не предоставляется в формате API, скорее не из этических соображений, но из за отсутствия в этом выгоды для компании, такая обработка требует значительных процессорных мощностей и в текущем исполнении массово внедрить её не получится.

Помните, как наши родители доверяли любой информации, сказанной по телевизору? Ну не может диктор врать, это же официальная информация!

Следующее поколение «фактам» из телевизора уже не верит, оно устремилось в интернет, от чего-то думая, что информация в нём свободная и в отсутствии цензуры как таковой, в нём можно найти правдивую информацию из первых уст.

Вот только уже сейчас и в этом начали возникать сомнения. Оказалось, что информацию в интернет может добавить каждый, не обязательно грамотный, не обязательно знающий, а то и вовсе «приколист». Новостные порталы в борьбе за конкуренцию и посетителя стараются выезжать «на хайпе», не особо утруждаясь в проверке фактов. Разгневанный читатель пабликов негодует: «Дайте пруфы!» - требует он, пользователь сети начал сомневаться в правдивости информации и взывает к фактам, как к конечному аргументу.

Где же искать информацию в эпоху скомпрометированных фактов? Сарафанное радио? Но уже сейчас есть нейросеть, генерирующая фотографии несуществующих людей с поразительной реалистичностью (Thispersondoesnotexist.com) , чат-боты умнеют каждый год, вот вам и миллиарды сгенерированных профилей в соцсетях, имеющих свои фотографии, умеющие отвечать на сообщения и проявляющие какую-то активность. Зачем нужны такие сети? – Это деньги, всегда найдутся люди, готовые заплатить за моделирование общественного мнения, что в рекламе брендов, что в политике. Ботам не нужно платить, и идея создания таких сетей всегда будет интересна программистам. Технически это уже реализуемо, но пока человек ещё может отличить бота от другого человека, читайте дальше, и поймёте, что это время продлится недолго.

Уверяю, следующее поколение перестанет верить информации в интернете, и сейчас я объясню почему.

Давайте рассмотрим логическую ошибку, которую мы совершаем при определении кто умный, а кто нет.

Когда мы пытаемся понять «умная» ли эта технология или нет, непроизвольно применяем шкалу для привычной нам оценки людей, пусть она выглядит так –

    |-----------------------|
  дурак                   гений	 
	 
И что-то там между ними прикидываем, где будет. Но нет, мы оцениваем не человека, а значит, шкалу нужно расширить до всех разумных существ.

    |----------------------|----|
 ворона                  дурак гений	 
	 

Ворона очень умная птица, но смотрите, при такой шкале оценки между дураком и гением остаётся очень небольшой промежуток развития. А мы знаем, что в отличии от ворон, дураков и гениев, которые тоже развиваются, но очень уж незначительно в процессе времени, компьютерные технологии почти удваивают свои показатели каждый год, т.е. в масштабах нашей шкалы положение ИИ заметно так смещается вперёд на фоне почти не двигающихся нас с воронами.

   |--------------------|-----------------------------|-----|
  ИИ                 ворона                         дурак гений	 
	 

Не буду приукрашивать заслуги искусственного интеллекта, всё-таки большая его популярность вызвана маркетингом, компаниям выгодно приукрашивать достижения ИИ в своей работе, это нравится клиентам. В реальности ИИ сейчас по уровню общего развития далёк и от вороны, и где он действительно хорош, так это в узкоспециализированных задачах, которых не так уж много.

А теперь самое страшное, вот так выглядит график развития человечества за последние 10 тысяч лет:
График ВВП за 10 тысяч лет

Как хотите назовите этот график: график потребления ресурсов, график технологического прогресса, график ВВП на душу населения… И это нормально, за последние 200-300 лет мы сделали больше, чем за тысячи лет до этого, бывают процессы с такими графиками, развитие компьютерных технологий идёт по ещё более крутому графику, даже в срезе ста лет, а не 10 тысяч. Это наша вторая логическая ошибка, благодаря которой мы думаем, что будущее, которое сейчас только фантасты сочиняют наступит очень нескоро или вообще не наступит, мы забываем, что некоторые процессы развиваются не по привычному нам длинному пути эволюции, а скорее взрывными темпами технической революции.

Исходя из этого можно предположить, что в сравнительно небольшом в рамках развития человечества срезе времени получится вот так:

   |-----------------------------|------|--|
ворона                         дурак гений ИИ	 
	 

И этот маленький промежуток в конце шкалы на самом деле будет больше, чем весь путь развития ИИ до него. А всё по тому, что с этого момента мы потеряем контроль над технологией и уже не сможем отличить сгенерированные факты от реальных, информация как таковая не сможет быть принята на веру, мы даже не сможем адекватно оценивать работу ИИ, он с лёгкостью обхитрит любого проверяющего его человека.