Страшно удобно и очень опасно: к чему ведет расширение использования искусственного интеллекта

Появление ChatGPT многие считают прорывом в развитии искусственного интеллекта (ИИ), который приведет к кардинальным изменениям в самых разных областях нашей жизни — от экономики до образования. При этом есть риск, что люди из соображений удобства будут выбирать готовые ответы, которые им дает ИИ. Стажеры Проектно-учебной лаборатории экономической журналистики НИУ ВШЭ разбирались в теме вместе с экспертами на первой встрече лектория Центра медиапрактик НИУ ВШЭ «СhatGPT: помощник или могильщик».

iStock

Авторы: стажеры-исследователи Проектно-учебной лаборатории экономической журналистики НИУ ВШЭ Александра Гуркина и Анастасия Кириллова специально для HSE.Daily

Мейнстрим широкого масштаба

Гамид Костоев более 30 лет работает директором по маркетингу на рынке информационных технологий. Он считает, что в каждый момент времени нужен хайп, имеющий в основе технологию, которая выглядит прорывной, но еще не стала такой, чтобы в нее инвестировали. Потом цикл хайпа кончится, и, возможно, кому-то не повезет. Этот хайп, по его мнению, искусственно раздувают инвестиционные банки, индустриальные аналитики, медиа.

Гамид Костоев

«Мы обсуждаем историю не каких-то супермодных стартапов, мы обсуждаем историю, которая стала мейнстримом широкого масштаба», — говорит Гамид Костоев.

ChatGPT — это искусственный интеллект, созданный компанией OpenAI, он отличается от других подобных продуктов многозадачностью и доступностью. Сегодня ChatGPT может:

- отвечать на любой вопрос;

- придумывать истории (даже сказки или стихи);

- переводить тексты; писать простые коды и переводить с одного языка программирования на другой;

- искать картинки по детальному описанию;

- рисовать.

В свою очередь, директор по маркетингу сервисов компании «Яндекс» Андрей Себрант полагает, что в вопросе с ChatGPT речь идет не просто о хайпе для привлечения денег. Крупнейшим инвестором OpenAI — разработчика ChatGPT — является корпорация Microsoft, которая вложила по меньшей мере 13 млрд долларов. «Это не вопрос о том, что поднять на бирже», — подчеркивает эксперт. Microsoft на бирже чувствует себя неплохо и, в отличие от самого модного, самого раскрученного стартапа, имеет ресурсы менять мир своими продуктами, добавляет он.

Андрей Себрант

Вполне вероятно, считает Андрей Себрант, что вскоре на каждом компьютере, на котором стоит Windows, появится co-pilot для работы с интернетом: вы ему даете задание, а он за вас его делает. 

Что такое ChatGPT? Это возможность интеллектуальной работы с текстом. Теперь можно попросить ИИ написать, например, обзор самого основного, что было на «Грэмми». В результате ты получаешь два абзаца «очень внятного, очень четкого, блестящего реферата», который мог сделать только хорошо разбирающийся в музыке критик, говорит Андрей Себрант.

Тектонический сдвиг

Цивилизация сама по себе является механизмом, и нас не должно пугать появление новых механизмов, уверен разработчик программных и веб-проектов, изобретатель и разработчик Punto Switcher и разработчик Caramba Switcher (программы автоматического переключения раскладки клавиатуры) Сергей Москалев.  

«Человеку не нужна мука или веб-страничка, ему нужен хлеб или информация, которая сделает его жизнь хотя бы немного лучше», — подчеркивает он. Новый инструмент порой дает неожиданные возможности: люди, которые разрабатывают какой-то продукт, потом с удивлением обнаруживают, что он используется не так, как они предполагали, а более эффективно и более интересно (хотя, может быть, и менее эффективно и менее интересно).

ChatGPT набрал более 100 000 000 ежемесячных пользователей всего за 2 месяца своего существования. Для сравнения: у TikTok на это ушло 9 месяцев. 

То есть технология, которую мы обсуждаем, — это самый быстрорастущий продукт за всю историю человечества, подчеркивает Павел Белов, который последние три года работал руководителем по внедрению инноваций компании «Мегафон», отвечая за тестирование и запуск новых технологий. Несколько недель назад он вместе с товарищем решил, что можно попробовать перенести ChatGPT в более привычный интерфейс, и они сделали бот в «Телеграме». За две недели он набрал более 5000 пользователей и более 100 000 вопросов — всего лишь после двух постов в соцсетях от Павла и его жены. 

Павел Белов

Мы имеем дело не с хайпом, как это было пару лет назад с ClubHouse, а с тектоническим сдвигом, уверен Павел Белов. ChatGPT достаточно эффективно решает две актуальные задачи, с которыми ежедневно сталкивается большое количество людей: написание текстов и поиск информации. Во-первых, он пишет тексты лучше большинства людей, при этом может делать это на разных языках, включая коды. Во-вторых, ищет информацию лучше любого поисковика. Над Google второй раз в жизни «нависла смертельная угроза», считает эксперт (первой были айфоны).

Впрочем, Андрей Себрант сгущающиеся над поисковиком тучи развеял: у Google своя великолепная языковая модель LaMDA. Новые разработки будут интегрированы в крупнейшие технологические компании, такие как Google и Microsoft. «Конечно, никто никого не убьет», — говорит он.

Сейчас основным недостатком ChatGPT является то, что он натренирован на текстах, которые создавались до 2021 года. Но существует аналог ChatGPT под названием Prometheus, агрегирующий данные в реальном времени, отмечает Павел Белов.

Новые технологии — новые проблемы

ChatGPT одновременно с прорывом в области технологии искусственного интеллекта — это страшная опасность, подчеркивает Гамид Костоев. Люди будут выбирать готовый ответ в силу небывалого удобства, сопротивляться которому никто не сможет. В этом риск манипуляций и фейков, предупреждает Гамид Костоев. 

Серьезный вызов ChatGPT бросает и образовательной системе — это подтверждает история студента российского вуза, который написал и защитил дипломную работу с помощью ChatGPT. То, что сейчас можно с помощью такого алгоритма написать диссертацию и сдать экзамен, означает, что, может быть, не совсем правильно использованы инструменты для определения уровня профессиональной подготовки студента, рассуждает Андрей Себрант. «Если то, что мы считаем определением профессиональной годности, может сделать машина, которая про мир ничего не знает, это точно ставит интересную задачу перед высшей школой», — подчеркивает он. 

Будут отмирать привычные формы и появляться новые, говорит Гамид Костоев. Так, эссе, которое сегодня является важной частью условий поступления в институт за границей, теперь придется либо исключать из системы оценивания знаний, либо возвращать к архаике: человек входит в комнату, сдает все электронные средства, садится за компьютер, не подключенный к интернету, и два часа пишет эссе под камерами. 

Образованию предстоит решить уже назревшую и наболевшую задачу — как проверить умения человека, причем имеются в виду не навыки компилирования и создания алгоритмически выстроенного текста при помощи новых мощнейших инструментов, уверен Гамид Костоев.

Реальный мир предполагает владение всем тем инструментарием, с которым человек будет решать реальные задачи. Поэтому нужно менять всю систему образования: не пытаться наложить на нее заплатки, а полностью перестроить, чтобы образование готовило человека к реальной жизни, где есть не только Google, но и декоративные алгоритмы, а не к миру XIX века, как готовят современные школы, подчеркивает Андрей Себрант. «Проверка знаний действительно бессмысленна: человек, если ему нужно знание, должен понимать, откуда его черпать», — говорит он. 

Слушатели лектория подняли еще один важный вопрос — правовой: если чат при приступе головной боли предложит выпить яду, то кто отвечает за такие смертельные советы?

Эксперты полагают, что решение подобных коллизий приведет к пересмотру законодательства. Новые технологии всегда порождают споры, особенно в юридической области, отмечает Сергей Москалев. Так, например, Евросоюз три года назад принимал решение о том, что отказ искусственного интеллекта в предоставлении финансовой или медицинской помощи должен быть обоснован.

«Мы имеем дело с классической ситуацией, когда прорывная технология опережает регуляцию», — говорит Гамид Костоев. «Другой вопрос — задача регуляции в интернете до сих пор не решена, как ее решать — серьезная проблема… Сегодня ответа нет», — признает эксперт.