DRAKON.SU

Текущее время: Пятница, 03 Февраль, 2023 09:47

Часовой пояс: UTC + 3 часа




Начать новую тему Ответить на тему  [ Сообщений: 4 ] 
Автор Сообщение
 Заголовок сообщения: Чат-бот ChatGPT и язык ДРАКОН
СообщениеДобавлено: Среда, 11 Январь, 2023 22:37 

Зарегистрирован: Воскресенье, 24 Февраль, 2008 15:32
Сообщения: 5587
Откуда: Москва
Чат-бот ChatGPT и язык ДРАКОН

Чат-бот ChatGPT открывает большие перспективы для распространения языка ДРАКОН. Первым об этом заявил Альгирдас Каралюс (Литва), создатель Drakon language school.

Приглашаю участников форума подумать над этой проблемой и вносить предложения в этой теме.
Для затравки под чертой приведена статья ChatGPT из Википедии.
_____________________________

https://ru.wikipedia.org/wiki/ChatGPT
Материал из Википедии — свободной энциклопедии

ChatGPT — это чат-бот с искусственным интеллектом, разработанный компанией OpenAI и способный работать в диалоговом режиме, поддерживаюший запросы на естественных языках.

ChatGPT — большая языковая модель, для тренировки которой использовались методы обучения с учителем и обучения с подкреплением. Чат-бот основывается на другой языковой модели от OpenAI GPT-3.5 — улучшенной версии модели GPT-3.

ChatGPT был запущен 30 ноября 2022 года и привлёк внимание своими широкими возможностями: написание кода, создание текстов, возможности перевода, получения точных ответов и использование контекста диалога для ответов, хотя его фактическая точность подверглась критике.


Содержание

1 Особенности
2 Реакция
3 Примечания
4 Ссылки

Особенности

ChatGPT был доработан поверх GPT-3.5 с использованием методов обучения с учителем, так и с подкреплением[2]. В обоих подходах использовались люди-тренеры для улучшения производительности модели.

В случае обучения с учителем модель была снабжена беседами, в которых тренеры играли обе стороны: пользователя и помощника по искусственному интеллекту.

На этапе подкрепления инструкторы-люди сначала оценивали ответы, которые модель создала в предыдущем разговоре. Эти оценки были использованы для создания моделей вознаграждения, на которых модель была дополнительно доработана с использованием нескольких итераций Proximal Policy Optimization[3][4].

Алгоритмы Proximal Policy Optimization имеют преимущество по затратам по сравнению с алгоритмами Region Policy Optimization; они сводят на нет многие дорогостоящие в вычислительном отношении операции с более высокой производительностью[5][6]. Модели были обучены в сотрудничестве с Microsoft на их суперкомпьютерной инфраструктуре Azure.

По сравнению со своим предшественником, InstructGPT, ChatGPT пытается уменьшить количество вредных и вводящих в заблуждение ответов.

Например, в то время как InstructGPT воспринимает сообщение о том, что Христофор Колумб прибыл в США в 2015 году как правдивое, ChatGPT использует информацию о путешествиях Колумба и информацию о современном мире, включая восприятие личности Колумба, чтобы построить ответ, предполагающий, что произошло бы, если бы Колумб приплыл в США в 2015 году[3].

Данные в распоряжении у ChatGPT включают в себя справочные страницы, информацию об интернет-феноменах и информацию о языках программирования[7].

В отличие от большинства чат-ботов, ChatGPT отслеживает состояние пользователя, запоминая предыдущие вопросы и ответы, данные ему в том же разговоре, что, по мнению некоторых журналистов, позволит использовать ChatGPT в качестве персонализированного терапевта[8].

В попытке предотвратить выдачу оскорбительных результатов от запросов пользователей и получение оскорбительных ответов, в ChatGPT запросы фильтруются через API модерации, а потенциально расистские или сексистские подсказки отклоняются[3][8].

ChatGPT имеет множество ограничений. Модель вознаграждения ChatGPT, разработанная с учетом человеческого надзора, может быть чрезмерно оптимизирована и, таким образом, снижать производительность, представляя собой закон Гудхарта[9].

При обучении рецензенты предпочитали более длинные ответы, независимо от фактического понимания или фактического содержания[3].

Данные у ChatGPT могут страдать от алгоритмической предвзятости; ответы, включающие расплывчатые описания людей, таких как генеральный директор, могут генерировать ответ, предполагающий, что такой человек, например, является белым мужчиной[10].

Реакция

ChatGPT был встречен в целом положительными отзывами. Саманта Лок из The Guardian отметила, что он смог сгенерировать впечатляюще подробный и похожий на человеческий текст[11].

Технический писатель Дэн Гиллмор использовал ChatGPT в студенческом задании и обнаружил, что сгенерированный им текст соответствует тому, что мог бы предоставить хороший студент, и высказал мнение, что перед академическими кругами стоят некоторые очень серьезные проблемы[12].

Алекс Кантровиц из Slate похвалил ответ ChatGPT на вопросы, связанные с нацистской Германией, включая утверждение о том, что Адольф Гитлер строил автомагистрали в Германии, которое было встречено информацией об использовании нацистской Германией принудительного труда[13].

В статье, посвященной мнению, экономист Пол Кругман писал, что ChatGPT повлияет на спрос работников умственного труда[14].

Джеймс Винсент из The Verge расценил вирусный успех ChatGPT как свидетельство того, что искусственный интеллект стал мейнстримом[4].

В The Atlantic Стивен Марке отметил, что влияние на академические круги и особенно на прикладные эссе еще предстоит понять[15].

Учитель средней школы Калифорнии и писатель Дэниел Герман написал, что ChatGPT ознаменует конец английского языка в средней школе[16].

Фактическая точность ChatGPT, помимо прочего, была поставлена под сомнение.

Майк Перл из Mashable задал ChatGPT множество вопросов. В одном примере он попросил указать самую большую страну в Центральной Америке, которая не является Мексикой.

ChatGPT ответил, что это Гватемала, когда правильный ответ - Никарагуа[17]. В декабре 2022 года веб-сайт вопросов и ответов Stack Overflow запретил использование ChatGPT для генерации ответов на вопросы, сославшись на фактически неоднозначный характер ответов ChatGPT[18].

Экономист Тайлер Коуэн выразил обеспокоенность по поводу его влияния на демократию, сославшись на способность любого человека писать автоматические комментарии в попытке повлиять на процесс принятия новых нормативных актов[19].

Акс Шарма из Bleeping Computer отметил, что ChatGPT способен писать вредоносные программы и фишинговые электронные письма[20].

Из-за опасений по поводу негативного воздействия на обучение, а также опасений по поводу безопасности и точности генерируемого системой контента, доступ к ChatGPT ограничен в сетях и на устройствах государственных школ Нью-Йорка[21]

Примечания

https://help.openai.com/en/articles/682 ... ease-notes
Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. Дата обращения 5 December 2022.
OpenAI. ChatGPT: Optimizing Language Models for Dialogue (30 ноября 2022). Дата обращения: 5 декабря 2022.
Vincent, James ChatGPT proves AI is finally mainstream — and things are only going to get weirder. The Verge (8 декабря 2022). Дата обращения: 8 декабря 2022.
Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec & Klimov, Oleg (2017), Proximal Policy Optimization Algorithms, arΧiv:1707.06347 [cs.LG].
van Heeswijk, Wouter Proximal Policy Optimization (PPO) Explained. Towards Data Science (29 ноября 2022). Дата обращения: 5 декабря 2022.
Edwards, Benj No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica (5 декабря 2022). Дата обращения: 5 декабря 2022.
Roose, Kevin The Brilliance and Weirdness of ChatGPT. The New York Times (5 декабря 2022). Дата обращения: 5 декабря 2022.
Gao, Leo; Schulman & Hilton, Jacob (2022), Scaling Laws for Reward Model Overoptimization, arΧiv:2210.10760 [cs.LG].
Murphy Kelly, Samantha This AI chatbot is dominating social media with its frighteningly good essays. CNN (5 декабря 2022). Дата обращения: 5 декабря 2022.
Lock, Samantha What is AI chatbot phenomenon ChatGPT and could it replace humans?. The Guardian (5 декабря 2022). Дата обращения: 5 декабря 2022.
Hern, Alex AI bot ChatGPT stuns academics with essay-writing skills and usability. The Guardian (4 декабря 2022). Дата обращения: 5 декабря 2022.
Kantrowitz, Alex Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test". Slate (2 декабря 2022). Дата обращения: 5 декабря 2022.
Krugman, Paul Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times (6 декабря 2022). Дата обращения: 6 декабря 2022.
Marche, Stephen The College Essay Is Dead. The Atlantic (6 декабря 2022). Дата обращения: 8 декабря 2022.
The End of High-School English Daniel Herman, The Atlantic, DECEMBER 9, 2022
Pearl, Mike The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable (3 декабря 2022). Дата обращения: 5 декабря 2022.
Vincent, James AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge (5 декабря 2022). Дата обращения: 5 декабря 2022.
Cowen, Tyler ChatGPT Could Make Democracy Even More Messy. Bloomberg News (6 декабря 2022). Дата обращения: 6 декабря 2022.
Sharma, Ax OpenAI's new ChatGPT bot: 10 dangerous things it's capable of. Bleeping Computer (6 декабря 2022). Дата обращения: 6 декабря 2022.
Образовательные учреждения блокируют доступ к нейросети ChatGPT. Что дальше? // РГ, 7.01.2023

Ссылки

Официальный сайт

Dario Spilimbergo Interview mit dem Chatbot GPT (англ.) (Audiostream). sirup.fm - Studierendenradiosendung von der Universität Zürich und der ETH Zürich (23 декабря 2022). Дата обращения: 23 декабря 2022.


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Чат-бот ChatGPT и язык ДРАКОН
СообщениеДобавлено: Четверг, 12 Январь, 2023 09:33 

Зарегистрирован: Воскресенье, 24 Февраль, 2008 15:32
Сообщения: 5587
Откуда: Москва
Рекомендую статью на Хабре
Цитата:
Как ChatGPT за меня тестовое задание для собеседования писал

https://habr.com/ru/post/710169/


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Чат-бот ChatGPT и язык ДРАКОН
СообщениеДобавлено: Пятница, 13 Январь, 2023 10:17 

Зарегистрирован: Воскресенье, 24 Февраль, 2008 15:32
Сообщения: 5587
Откуда: Москва
Статьи на Хабре про чат-бот ChatGPT

Путеводитель по Галактике ChatGPT
https://habr.com/ru/news/t/705034/

Обзор ChatGPT с примерами использования в различных задачах
https://habr.com/ru/post/708646/

На какие профессии повлияет ChatGPT
https://habr.com/ru/post/708270/

Делаем фронт на React, а ChatGPT будет нашим Redux редьюсером
https://habr.com/ru/post/708360/

Приколы с ChatGPT: обмануть или быть обманутым
https://habr.com/ru/post/709636/

Посетители Tinder начали использовать ChatGPT для знакомств
https://habr.com/ru/post/709636/

Власти Нью-Йорка запретили использовать ChatGPT в школах
https://habr.com/ru/news/t/709194/

Эксперты: хакеры начали использовать ChatGPT для создания вирусов
https://habr.com/ru/news/t/709464/

Microsoft намерена расширить внедрение чат-бота ChatGPT в свои продукты
https://habr.com/ru/news/t/709644/

App Store и Play Store наводнили сомнительные приложения, притворяющиеся ChatGPT
https://habr.com/ru/news/t/710038/

Создаем интерпретатор Python на основе ChatGPT
https://habr.com/ru/post/705252/

ChatGPT написал Android-приложение
https://habr.com/ru/company/dododev/blog/708248/

ChatGPT пройдёт собеседование по Data Science вместо вас
https://habr.com/ru/company/ruvds/blog/705094/

Боссы Google признались, что не боятся ChatGPT
https://habr.com/ru/news/t/705548/

В Google объявлен «красный код»: компания ищет ответ ChatGPT
https://habr.com/ru/news/t/707140/

Разработчик ChatGPT открыл приём заявок на доступ к платной версии сервиса
https://habr.com/ru/news/t/710192/

Самые впечатляющие достижения ChatGPT
https://habr.com/ru/company/getmatch/blog/704680/

ChatGPT ответил на тест по микробиологии лучше среднестатистического студента
https://habr.com/ru/post/705850/

Проблемы вызванные появлением ChatGPT в сфере образования
https://habr.com/ru/post/708990/

Профессиональные задачи, которые вы можете решить с AI системой ChatGPT от OpenAI
https://habr.com/ru/post/708280/

Кейсы применения ChatGPT для задач программиста
https://habr.com/ru/post/703568/

Не верьте ChatGPT и используйте KotUniL
https://habr.com/ru/post/707548/

Это не все статьи про ChatGPT на Хабре.
Таких статей намного больше.


Вернуться к началу
 Профиль  
 
 Заголовок сообщения: Re: Чат-бот ChatGPT и язык ДРАКОН
СообщениеДобавлено: Четверг, 19 Январь, 2023 08:28 

Зарегистрирован: Воскресенье, 24 Февраль, 2008 15:32
Сообщения: 5587
Откуда: Москва
Тестовое задание, выполненное ChatGPT, обмануло рекрутеров и превзошло работы 80% соискателей

https://habr.com/ru/news/t/711486/


Вернуться к началу
 Профиль  
 
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 4 ] 

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 2


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
cron
Вся информация, размещаемая участниками на конференции (тексты сообщений, вложения и пр.) © 2008-2022, участники конференции «DRAKON.SU», если специально не оговорено иное.
Администрация не несет ответственности за мнения, стиль и достоверность высказываний участников, равно как и за безопасность материалов, предоставляемых участниками во вложениях.
Powered by phpBB® Forum Software © phpBB Group
Русская поддержка phpBB