Cardbot
Опытный user
- Регистрация
- 1 Июл 2021
- Сообщения
- 368
- Реакции
- 57
Сегодня речь пойдет об ИИ. А именно - о нашумевшем ChatGPT
30 ноября OpenAI запустили чат-бота ChatGPT на основе ИИ.
Уже через 5 дней пощупать мозги захотел целый миллион пользователей. Твиттеру, например, для достижения такой цифры потребовалось аж 2 года. Эти несколько месяцев публика широко тестировала границы искусственного сознания чат-бота. Тот в свою очередь продолжал обучаться уже на поле интеллектуального боя. 2 месяца человечество изучало чат бота, а чат-бот изучал человечество. Он своими выводами не делился, зато мне есть что сказать.
Этот чат-бот способен разрушить систему образования, достаточно дать ему правильные подсказки.
Согласно исследованию Стэнфордского университета 17% их студентов уже использовали чат-бота для решения своих заданий. 5% отправляли свои работы сразу преподавателям, ничего не меняя. А другой опрос уже показал, что 30% студентов заставляют чат-бота делать свои задания. Университеты Пендостана спешно готовят поправки в кодексе академической честности, теперь использование ИИ приравнивается к читерству. Только не говорите это вашей Марье Ивановне…
Встает вопрос: зачем теперь нужна школа, если ИИ все так легко даётся, да и кода пару строк на уровне джуна он тоже может накидать? Но у всего такого, новаторского, классного умника есть и свои демоны.
ChatGPT создан на основе модели GPT-3.5.
Чтобы осознать природу всех ключевых проблем, нужно знать и понять как он обучается. GPT - generative pre-trained transformer. Модель обработки естественного языка архитектурой «трансформер». Для обучения языковой модели текст превращается в токены-последовательности символов, которые часто повторяются в текстах. Их схлопывают до новых символов. 1 токен ≈ 4 символа на английском языке. Нейронная сеть изучает последовательность между токенами, как и последовательности, которые чаще всего встраиваются, и то, что за чем следует. Вычислив вероятности, она способна сама отстроить собственные последовательности токенов и превратить их в текст. На все это ботом было освоено множество фактов о мире, которыми можно жонглировать, генерируя ответ на вопрос пользователя, каким бы странным и извилистым он не был. ChatGPT обучен на огромном массиве данных, до 2021 года в 10 раз больше, чем у любой предыдущей модели ИИ. Архивы веб-страниц, медиа, книги, Википедия, тренды на Редите. Всего 175 миллиардов переменных. Затем ChatGPT обучается методом подкрепления обратной связи - разработчик берет ответы которые чат-бот уже сгенерировал и раздает маркировщикам данных. Они оценивают качество результата и эти оценки ИИ изучает еще раз. На этой стадии из 175 миллиардов параметров уже жалкие 1 миллиард и 300 миллионов. Зато чат-бот понимает как угождать человечку.
Баги самого ИИ вытекают из его способа обучения.
Во-первых, ChatGPT по природе своей аморален. Он вроде Адама в раю, он не считает, что воровство хуже чем садоводство, а расизм хуже кубизма. Вместо осознания добра и зла - искусственные ограничения от разработчиков. Воспитывая своего ChatGPT, OpenAI уже встряла в скандал. Оказалось, даже для ИИ потребовалась дешевая рабочая сила из стран 3-его мира. Дело в том, что, оказывается(!), люди в интернете говорят аморальные и грубые вещи, и тексты, которые в дата-сет из интернета, тоже такими бывают. А уж будущие пользователи чат-бота - это те же самые люди из интернета, которые только и ждут, чтобы на их агрессию ответили агрессией, так чувствуешь себя не единственным мудаком в комнате, с тобой еще ChatGPT - который тоже, оказывается, мудак. Классно же
Поэтому OpenAI наняли подрядчика в Кении и отправили им десятки тысяч примеров всякого плохого контента из интернета, чтобы рассортировать все плохое и показать ИИ, что вот так вот, пожалуйста, давайте не будем. Это переваривание и рассортировывание информационной субстанции - максимум $2 в час + групповая психотерапия для всех Кенийских принцев, которым приходится ходить на такую работу, ведь ты так и не ответил на его Email. Бездушная ты зверушка…
Многие люди готовы верить ИИ,но он не основан на принципах морали и обучен такими же людьми только в угоду повестки дня, но люди верят. Ведь он же интеллект и он все знает. В этом и вторая проблема, ChatGPT ничего не знает. Он оперирует не смыслом слов, а кусками слов и подсчётами, он не знает что лжёт, ведь у чат-бота нет понятия истины и лжи, он не оперирует этими понятиями, а все таблетки для него синие.
И ещё, не забывайте, что чат-бот хранит всю информацию, которую вы предоставляете...
На этом всё.
Будьте бдительными и адекватно оценивайте пряник, который вы получаете.
30 ноября OpenAI запустили чат-бота ChatGPT на основе ИИ.
Уже через 5 дней пощупать мозги захотел целый миллион пользователей. Твиттеру, например, для достижения такой цифры потребовалось аж 2 года. Эти несколько месяцев публика широко тестировала границы искусственного сознания чат-бота. Тот в свою очередь продолжал обучаться уже на поле интеллектуального боя. 2 месяца человечество изучало чат бота, а чат-бот изучал человечество. Он своими выводами не делился, зато мне есть что сказать.
Этот чат-бот способен разрушить систему образования, достаточно дать ему правильные подсказки.
Согласно исследованию Стэнфордского университета 17% их студентов уже использовали чат-бота для решения своих заданий. 5% отправляли свои работы сразу преподавателям, ничего не меняя. А другой опрос уже показал, что 30% студентов заставляют чат-бота делать свои задания. Университеты Пендостана спешно готовят поправки в кодексе академической честности, теперь использование ИИ приравнивается к читерству. Только не говорите это вашей Марье Ивановне…
Встает вопрос: зачем теперь нужна школа, если ИИ все так легко даётся, да и кода пару строк на уровне джуна он тоже может накидать? Но у всего такого, новаторского, классного умника есть и свои демоны.
ChatGPT создан на основе модели GPT-3.5.
Чтобы осознать природу всех ключевых проблем, нужно знать и понять как он обучается. GPT - generative pre-trained transformer. Модель обработки естественного языка архитектурой «трансформер». Для обучения языковой модели текст превращается в токены-последовательности символов, которые часто повторяются в текстах. Их схлопывают до новых символов. 1 токен ≈ 4 символа на английском языке. Нейронная сеть изучает последовательность между токенами, как и последовательности, которые чаще всего встраиваются, и то, что за чем следует. Вычислив вероятности, она способна сама отстроить собственные последовательности токенов и превратить их в текст. На все это ботом было освоено множество фактов о мире, которыми можно жонглировать, генерируя ответ на вопрос пользователя, каким бы странным и извилистым он не был. ChatGPT обучен на огромном массиве данных, до 2021 года в 10 раз больше, чем у любой предыдущей модели ИИ. Архивы веб-страниц, медиа, книги, Википедия, тренды на Редите. Всего 175 миллиардов переменных. Затем ChatGPT обучается методом подкрепления обратной связи - разработчик берет ответы которые чат-бот уже сгенерировал и раздает маркировщикам данных. Они оценивают качество результата и эти оценки ИИ изучает еще раз. На этой стадии из 175 миллиардов параметров уже жалкие 1 миллиард и 300 миллионов. Зато чат-бот понимает как угождать человечку.
Баги самого ИИ вытекают из его способа обучения.
Во-первых, ChatGPT по природе своей аморален. Он вроде Адама в раю, он не считает, что воровство хуже чем садоводство, а расизм хуже кубизма. Вместо осознания добра и зла - искусственные ограничения от разработчиков. Воспитывая своего ChatGPT, OpenAI уже встряла в скандал. Оказалось, даже для ИИ потребовалась дешевая рабочая сила из стран 3-его мира. Дело в том, что, оказывается(!), люди в интернете говорят аморальные и грубые вещи, и тексты, которые в дата-сет из интернета, тоже такими бывают. А уж будущие пользователи чат-бота - это те же самые люди из интернета, которые только и ждут, чтобы на их агрессию ответили агрессией, так чувствуешь себя не единственным мудаком в комнате, с тобой еще ChatGPT - который тоже, оказывается, мудак. Классно же
Поэтому OpenAI наняли подрядчика в Кении и отправили им десятки тысяч примеров всякого плохого контента из интернета, чтобы рассортировать все плохое и показать ИИ, что вот так вот, пожалуйста, давайте не будем. Это переваривание и рассортировывание информационной субстанции - максимум $2 в час + групповая психотерапия для всех Кенийских принцев, которым приходится ходить на такую работу, ведь ты так и не ответил на его Email. Бездушная ты зверушка…
Многие люди готовы верить ИИ,но он не основан на принципах морали и обучен такими же людьми только в угоду повестки дня, но люди верят. Ведь он же интеллект и он все знает. В этом и вторая проблема, ChatGPT ничего не знает. Он оперирует не смыслом слов, а кусками слов и подсчётами, он не знает что лжёт, ведь у чат-бота нет понятия истины и лжи, он не оперирует этими понятиями, а все таблетки для него синие.
И ещё, не забывайте, что чат-бот хранит всю информацию, которую вы предоставляете...
На этом всё.
Будьте бдительными и адекватно оценивайте пряник, который вы получаете.
