結局持ち歩いているPC(M1えあえあ、おさふぇ7たす)にもDocker Desktopをもともと導入していたこともあってローカルDify環境をセットアップしてしまったわけですが・・・()

せっかくなので連載記事としていろいろ試してみた内容を記事として紹介したいと思います(昨年のIntune記事もそうですが、場合によっては途中で急遽連載が終了する場合もかなり高いので、その点のみご了承ください・・・)。

まずは使用するモデルプロバイダーの設定から

Difyは「プログラミングの知識が無い初心者でも簡単に生成AIを活用したアプリを作れちまうんだ!るサービス」なので、クラウド版、オンデバイス(ローカル)版ともにまずはデフォルトの生成AIサービス(モデルプロバイダー)を設定する必要があります。

クラウド版では無料版の「サンドボックス」プラン含め、OpenAI、おじぇみ、Anthhropic、xAI(いーろんらんど・・・もとい、X)の一部AIモデルを利用するためのクレジットが付与されていますが、すべてのモデルデータが使えるわけではないほか、サンドボックスプランの場合200クレジット分しか付与されない上、完全使い切りとなるので結局各モデルプロバイダーが提供するAPIキーの設定が必須となります。当たり前ですがオンデバイス版にはそもそもクレジットの付与はありませぬ!

無料で使いたいんですが・・・

当然ですが各モデルプロバイダーのAPIキーを設定する場合、ほとんどの場合従量課金制でサブスクリプションを提供しているため有償・・・なのですが、いくつか個人利用であれば無料で利用できるモデルプロバイダーも存在しています。

代表的なのはググレカスのおじぇみで、無料枠でも1日に利用できるトークン数が多めに設定されているので、個人利用レベルや本番前のテスト環境であれば十分活用できます。結局ここでもおじぇみに頼ることになるのか・・・()

なお、最初の紹介記事で「ググレカスAIプヨプランに入ってるからAPI使い放題わーい!」という意図の文章を書いていたのですが、APIキーを発行してDify等の外部サービスと連携させたり、自分で開発したアプリに組み込む場合は別途従量課金サブスクリプションの契約が必須となりますorz

おじぇみ以外だとDeepseekなどのオープンソースなモデルデーだであれば無料で利用できる「OpenRouter」や「GroqCloud」もDify側で公式サポートされていますし、動く環境であればローカルLLMを連携させることも可能なので実はオンデバイス・クラウド問わずやろうと思えばAIモデルも完全無料で利用できてしまいます。

残念ながらChatGPTでおなじみOpenAIは現在無料で利用できるお試し用クレジット的な物は配布しておらず、(かなり評判がいいので最近かのあゆも使い始めた)AnthropicのClaudeも無料でAPIキーを利用できるプランは用意されていないため、今回はおじぇみとGroqCloud、OpenRouterのアカウントを作成して無料APIキーを発行した上でDifyに連携させることにしました(一応M1えあえあであればローカルモデルも動きそうなのですが、ストレージ容量がかなりかつかつになってきたので・・・)

あぁ・・・次はチャットボット作成だ・・・(次回予告)

ということで、これで実際にDifyでAIアプリを作るための前準備は完了したので、次回は実際にAIチャットボットを作成してみたいと思います。

実はシンプルなチャットボットであれば本当に拍子抜けするくらい簡単に作れちゃうんですよ・・・Difyならね!

関連リンク

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です