https://agasiev.com/tags/datasety/ Telegram: @aagasiev Артём Агасиев ru E2 (v3576; Aegea) Артём Агасиев Telegram: @aagasiev 107 https://agasiev.com/all/common-crawl-v-gpt-3/ Sun, 26 Mar 2023 02:23:32 +0300 Артём Агасиев https://agasiev.com/all/common-crawl-v-gpt-3/ <p><a href="https://agasiev.com/all/sem-altman-na-podkaste-u-leksa-fridmana/">К слову, про обучающий датасет</a> для GPT-3:</p> <div class="e2-text-picture"> <img src="https://agasiev.com/pictures/2005.14165.pdf-2023-03-25-14-51-03.png" width="1282" height="428" alt="" /> </div> <ul> <li><a href="https://commoncrawl.org/">Common Crawl</a> — открытый индекс интернета, занимает самый большой объем в обучающих данных. Сейчас как раз пишу статью про него.</li> <li>WebText — датасет собранный OpenAI, лучшего качества чем CC.</li> <li>Books1 и Books2 — набор текстов книг. Слету не нашел на них ссылок.</li> <li>Wikipedia — только англоязычная часть.</li> </ul>