Together AIでカスタムLLMを活用するAIエージェント
機能
インテグレーション機能
- 高性能推論
- 研究に基づく最適化でサブ秒モデル処理を実現
- カスタムカーネル、量子化、推測デコーディングによる最大効率化
- ピークトラフィック時でも安定した低遅延応答
- モデルの柔軟性と選択肢
- 最先端モデルを含む豊富なモデルライブラリにアクセス可能
- 高速化には軽量モデル、複雑な対話には大規模モデルを展開
- コード変更なしでモデル切り替えが簡単—数分でテスト&展開可能
- カスタムモデルの展開
- 独自データでファインチューニングしたモデルを利用可能
- 自社の言語やドメイン知識に特化したモデルを展開
- エンタープライズ基盤を活用しつつ、IPを完全に管理
- デベロッパーファーストの連携
- OpenAI互換APIでベンダーロックインなし
- 既存のElevenLabsエージェントとプラグ&プレイで連携
- 充実したAPIドキュメントとエンタープライズサポート
- エンタープライズセキュリティ&コンプライアンス
- SOC2・HIPAA準拠、GDPR対応のインフラ
- 転送中のデータは暗号化、ゼロリテンションモードも利用可能
- 専用サポートチャネル付きエンタープライズSLA
インストール
インストールガイド
パート1:Together AIのセットアップ
APIキーの取得:Together AIの設定→APIキーで新規キーを作成
モデルの選択:カタログから選択、またはカスタムファインチューニングモデルを使用
モデルIDの確認:正確な識別子をコピー(例:「meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo」)
パート2:ElevenLabsのセットアップ
エージェント設定でTogether AIキーを「カスタムLLM」シークレットとして追加
パート3 カスタムLLMの設定:
LLMドロップダウンからカスタムLLMを選択し、以下の情報を保存してください:
サーバーURL:https://api.together.xyz/v1
モデルID:選択したモデルの識別子
認証情報:ドロップダウンからAPIキーを選択
情報を保存し、「AIエージェントをテスト」で連携を確認してください
トラブルシューティング