https://zenn.dev/puwa/articles/doujinshi_development_report_1

特化型llm(Doujinshi-1.8b)の開発報告書①:開発の全体像

R18に特化した大規模言語モデル、Doujinshi-1.8bの開発報告書です。

データセットの作成、継続事前学習、SFTなど、開発フローをプログラムを交えて解説します。

個人で特化型LLMを開発したいと考えている方の参考になる記事です。