作るもの Raspberry Pi に Open WebUI をホストし、ローカル LLM や LLM API を利用できるようにします。さらに Tailscale (VPN) を利用することで、自宅外からでも Open WebUI にアクセスできるようにします。 自宅外からでもスマホや PC でアクセスできます。 Tailscale (VPN) を使っているので他の人からは見ることができない、自分専用のアプリになっています。 環境 Windows 11 24H2 Raspberry Pi をセットアップする Raspberry Pi をセットアップして SSH 接続できるようにします。Raspberry Pi 4 を使用しますが、他のバージョンでも同様の手順でセットアップできるはずです。 必要なもの PC この記事では Windows PC を前提に説明します。 Raspberry Pi
The pipeline implementation for interacting with the Google Gemini API. It allows you to easily send prompts, receive responses, and manage your API keys. Crucially, it includes support for API key rotation, enabling you to seamlessly switch between multiple Gemini API keys for improved reliability, rate limiting management, and key security. This is a robust and feature-rich solution for develope
Open WebUIを使ってみました。 https://openwebui.com/ 当初は「Ollama WebUI」という名前だったようですが、今はOpen WebUIという名前に変わっています。Ollama専用じゃなくなったということでしょう。OpenAIに対応済みです。 早速使ってみました。もちろんBedrockで。 6/11 続編を書きました。 環境構築 Dockerですんなり構築です。Bedrockに対応はしてないので、「LiteLLM」を使って対応させます。 環境変数でこのあたりを指定 Ollamaを無効化 LiteLLMのエンドポイントをOpenAIのエンドポイントとして登録 APIキーを登録（LiteLLMとの通信には不要ですが、未指定だとOpen WebUIが正しく動作しませんでした） services: open-webui: image: ghcr.io/open-
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
