https://agasiev.com/tags/chatgpt/ Telegram: @aagasiev Артём Агасиев ru E2 (v3576; Aegea) Артём Агасиев Telegram: @aagasiev 106 https://agasiev.com/all/sem-altman-na-podkaste-u-leksa-fridmana/ Sun, 26 Mar 2023 01:33:41 +0300 Артём Агасиев https://agasiev.com/all/sem-altman-na-podkaste-u-leksa-fridmana/ <div class="e2-text-video"> <iframe src="https://www.youtube.com/embed/L_Guz73e6fw" frameborder="0" allowfullscreen></iframe></div> <p>Неплохое, немного философское интервью с Сэмом Альтманом, CEO OpenAI.</p> <p>Меня интересовали технические подробности внутренней кухни компании, но их было мало. Про GPT-4, которая, как оказалось, была готова еще летом 2022, ничего нового, чего не было в релизе или в техническом отчете не добавили. Размер модели неизвестен, датасет неизвестен. Просто сказали, что брались как открытые (возможно, <a href="https://agasiev.com/all/common-crawl-v-gpt-3/">Common Crawl как в GPT-3</a>), так и проприетарные датасеты и полностью переработали пайплайн обучения.</p> <p>Однако, как мне кажется, одно из самых важных достижений было в том, что они научились предсказывать кривую обучения большой модели по предтренировке малой, что должно экономить кучу сил и времени на этапе подготовки к обучению большой модели. Получается что-то уровня фантастики, когда мы берем годовалого ребенка и можем предсказать, кем он будет к совершеннолетию.</p> <h2>Сильный ИИ</h2> <p>В разговоре про AGI, Сэм прямо подтвердил сомнения Яна Лекуна в том, что большие языковые модели это предшественники сильного искусственного интеллекта. Но, в отличие от Яна, который считает, что мы сошли с пути, Сэм думает, что это просто часть дороги в будущее.</p> <div class="e2-text-picture"> <img src="https://agasiev.com/pictures/1111.png" width="700" height="202" alt="" /> <div class="e2-text-caption"><a href="https://twitter.com/ylecun/status/1621805604900585472">@ylecun в Twitter</a></div> </div> <h2>Нас всех заменят</h2> <p>Ну и куда же без мема, про замену программистов при помощи ИИ, ага. В общем, после того, как глава самой передовой компании в сфере замены людей на машин заявил, что ему капец как сложно найти людей в команду, понимаешь, что таки да, еще покодим немного.</p> <div class="e2-text-picture"> <img src="https://agasiev.com/pictures/2222.png" width="400" height="575" alt="" /> </div> 94 https://agasiev.com/all/chatgpt-i-voprosy/ Sat, 04 Mar 2023 01:28:47 +0300 Артём Агасиев https://agasiev.com/all/chatgpt-i-voprosy/ <p>Забавным последствием популярности ChatGPT и его аналогов может быть то, что люди наконец-то научатся задавать нормально сформулированные вопросы в сообщениях. А может даже и уточняющие вопросы вдогонку. Так всем миром и освоим метод Сократа.</p>