Japan
LLM Developer Day

本セッションでは、大規模言語モデル (LLM) の API を使って、LLM を利用したシステムを設計/実装するための実践的な方法を学びます。モデルへの効果的な入力「プロンプト」を設計するテクニックや、LangChain のようなフレームワークを使用して、LLM をデータベースや他のシステムとリンクさせる方法についてご説明します。本セッションに参加することで、ビジネスに役立つ LLM システムを構築する実践力を習得いただけます。

本セッションでは、LLM をドメイン固有のアプリケーション向けにカスタマイズすることで、既製品のモデルや API の限界を超えることを目指します。データセットを準備する戦略と様々なカスタマイズ方法から得られるメリットを実例を使ってご紹介します。本セッションに参加することで、API ベースの LLM と独自 LLM の両方に適用可能なモデル チューニングのテクニックを学んでいただけます。

本セッションでは、クラウドやオンプレミス関係なく、セルフマネージド環境で LLM を本番稼動させることで、如何に効率性やデータ ガバナンスを向上させ、コスト削減を実現できるかについてご紹介します。一般的なインフラ上で動作するオープンで商用利用可能な LLM について説明します。また、オプティマイザーを使用して低レイテンシと高スループットの推論を実現し、計算量を低減する方法もご紹介します。本セッションに参加することで、ビジネス ニーズに合わせた独自 LLM をスケールアップする方法を習得いただけます。