Время прочтения: 6 мин.

В этой публикации я расскажу вам о своем опыте взаимодействия с Chat Generative Pre-trained Transformer a.k.a. Chat-GPT от компании OpenAI. О преимуществах и недостатках инструмента и чем он может быть полезен и чем опасен.

OpenAI в конце 2022 года представила публике высокопроизводительную модель языковой генерации — Chat-GPT, которая была обучена на большой коллекции текстовых данных (более 500 Гб текстовой информации с количеством параметров не менее 175 миллиардов). Она имеет потенциал для перехода на новый уровень в области взаимодействия человека с технологией. Chat-GPT может выполнять ряд задач такого порядка, как генерация ответов на вопросы в общей или частной форме, выполнение сложных языковых переводов, решение математических задач и даже участие в творческом написании текстов и кода программ. Однако развитие технологий искусственных интеллектов, таких как Chat-GPT, также вызывает ряд споров, связанных с этикой и влиянием на общество. Эти споры поднимают вопросы о рисках и недостатках использования искусственного интеллекта, таких как: недостоверность данных, усугубление предубеждений, потеря людьми рабочих мест или злоупотребление технологиями.

Chat-GPT имеет некоторые ограничения и потенциальные проблемы, о которых следует знать пользователям.

Отсутствие здравого смысла:

Chat-GPT обучен на огромном количестве текстовых данных, но у него нет истинного понимания мира. Ему может быть трудно ответить на вопросы, требующие знания здравого смысла или человеческого опыта.

Ограничения в понимании контекста:

ChatGPT был обучен отвечать на вопросы и участвовать в разговорах, но ему всё ещё трудно понять контекст, в котором задаётся вопрос. Это может привести к недопониманию или неуместным ответам. Chat-GPT формирует ответы исключительно на основе полученных им данных и не имеет возможности понять контекст, в котором они были введены. Это может привести к неуместным или бесчувственным ответам в определённых ситуациях.

Несоответствие:

Все генеративные модели генерируют ответы на основе вероятностей, полученных из обучающих данных. Это может привести к противоречивым или неожиданным ответам, особенно в тех случаях, когда существует более одного возможного правильного ответа.

Предвзятость:

Как и в случае с любой другой моделью машинного обучения, Chat-GPT был обучен на шаблонах, предубеждениях и стереотипах, присутствующих в обучающих его данных. Это может привести к тому, что модель будет давать предвзятые ответы, что может увеличить вредные предубеждения и накал в обществе.

Ограничения в понимании эмоций:

Chat-GPT не способен испытывать эмоции и, следовательно, не может понять эмоциональный контекст разговора или реагировать эмоционально уместным образом.

Дезинформация:

Поскольку Chat-GPT обучается на текстовых данных из Интернета, он может узнавать и распространять дезинформацию или ложную информацию. Это особенно проблематично, если Chat-GPT используется для ответов на деликатные вопросы или предоставления информации пользователям без надлежащей проверки. А иногда и вовсе выдумывает факты.

Проблемы с конфиденциальностью:

Chat-GPT требует доступа к большим объемам данных для создания ответов, что может вызвать проблемы с конфиденциальностью для лиц, чья личная информация может быть включена в данные обучения.

Криминализация ресурса:

Уже на данный момент зафиксированы случаи использования Chat-GPT в криминальных целях, от генерации фишинговых писем и проработки скриптов социального инжиниринга до написания шифрующих вирусов и создания побочных ботов, выдающих себя за людей.

Важно помнить об этих ограничениях при использовании Chat-GPT и понимать, что эта модель не заменяет человеческий интеллект. Но, с другой стороны, Chat-GPT может делать просто превосходные вещи:

Написание блоков кода:

Для примера я взял задачу с  Leetcode уровня Hard:

Я попросил решить нашего друга:

Вуаля:

И задача решена.

Математические вычисления:

Классические операции Chat-GPT выполняет без проблем, но более сложные задачи могут его запутать.

Перевод текстов:

Chat-GPT обладает высокой точностью в переводе текстов и способен сохранять смысл и стиль оригинального текста.

Творческий потенциал:

Из данных, входящих в обучающую выборку, русскоязычного контента было менее 1%, в связи с этим Chat-GPT гораздо хуже мимикрирует под Маяковского чем под Блейка.

Помимо написания стихотворения он отлично справляется с написанием прозаичных вещей: чек-листов, кратких очерков, постов, эссе и даже дипломных работ. Например, в написании данной публикации Chat-GPT принимал непосредственное участие.

К чему я пришел: Chat-GPT — это мощный инструмент, который может использоваться для общения и получения информации в реальном времени. Среди преимуществ Chat-GPT можно отметить высокую точность и скорость обработки запросов, возможность работы на многих языках и доступность в любое время. Однако существуют и некоторые недостатки, такие как необходимость подключения к Интернету, неспособность к эмпатии и проблемы с конфиденциальностью данных. Важно учитывать эти особенности, потенциальные опасности и предпринимать шаги по их устранению, например, использовать Chat-GPT в сочетании с другими источниками информации и регулярно проверять выходные данные модели, чтобы убедиться, что они точны и уместны.

 В целом Chat-GPT — это полезный инструмент, который может помочь в решении многих задач. Однако важно учитывать как его преимущества, так и недостатки. Компания OpenAI продолжает совершенствовать свой инструмент, так что некоторые из этих проблем уже не так критичны. Ну а я уверен, что буду обращаться к Chat-GPT ещё не один раз.