Recent content on 自動化無しに生活無し
通知を受け取るには、ホーム画面に追加してから購読してください。
FastAPIとNext.jsの経験がない中で、チュートリアル的な意味で作った。 【フェーズ1】FastAPIでStreamResponseをするローカルLLM(Ollama) 構成は以下の通り . ├── main.py ├── routers │ └── chat.py ├── crud.py ├── models.py ├── schemas.py ├── database.py ├── chat.db └── requirements.txt 全体像はこうなる。 以下、ファイルごとの役割 ファイル・フォルダ 役割 main.py サーバー起動用 routers エンドポイントフォルダ chat.py チャットGPT風アプリのエン
FastAPIとは FastAPI 環境構築 プロジェクト構成のベストプラクティス APIRouterを使ったエンドポイントルーティング pydanticを使ったモデル FastAPIのDB使用方法 SQLite PostgreSQL
Qdrantとは？ Qdrantはファイルの意味をまとめた数値の集まり(ベクトルデータ)を保存・検索できるベクトルDBの一種。 Qdrantにより、意味で検索できる。 例えば、「哺乳類で、海に棲んでいる。天敵がいない、水族館にもいる生き物。」と検索をすれば、「シャチ」が出てくる。つまり、直接「シャチ」と言わず、「シャチ」に含まれる意味を元に検索をすることができる。 実務では、 ファイル名は思い出せないが、内
RAG開発時、チャンクを自動的に行っているようではセマンティックな埋め込みベクトル検索などは厳しい。 そこで、チャンクサイズを手動で設定できる余地を作る。 今回はそのたたき台となるJSとHTMLを用意した。 HTML Chunk Editor Sample body{ font-family:sans-serif; margin:30px; } #editor{ border:1px solid #999; padding:15px; min-height:180px; white-space:pre-wrap; user-select:text; } チャンクエディタ試作 今日は良い天気です。 明日は雨です。 明後日は晴れです。
前提 GPU: RTX A2000 12GB LLM: Ollama(Gemma-7B 4bit量子化仕様) RAG: Qdrant 上記環境下で、指定のディレクトリ内のテキストファイルをすべて読み込み、RAGを実現させる。 qdrantの立ち上げとOllama と Gemma 7B のインストール Gemma 7Bのインストール。 ollama pull gemma:7b すでにOllamaでは4bit量子化仕様を配布しているので、あえて指定をする必要はない。上記コマンドで4bit量子化仕様が手に入る。 続いてqdrantはdockerで起動させる #! /bin/bash docker run -d
すでにollamaとgemma:2bをインストール済みとする。 参照: UbuntuにローカルLLMをインストールし、Python上で動作させる(Ollama) RAGの実装とソースコード pip install faiss-cpu sentence-transformers numpy import faiss import numpy as np from sentence_transformers import SentenceTransformer import subprocess # ========================= # 1. ドキュメント準備 # ========================= documents = [ "RAGとは、検索と生成を組み合わせたAI手法です。", "FAISSはベクトル検索ライブラリです。", &quo
Ollama Ollama はGoogle DeepMind によって開発されたローカルで利用できるLLM。 入力した情報を外部に公開したり curl -fsSL https://ollama.com/install.sh | sh 仮想環境下で以下を実行する。 pip install ollama 以下コードを実行する。 import ollama # 1. システムプロンプト（末尾のカンマを削除し、内容を強化） system_prompt = { 'role': 'system', 'content': ( "【絶対ルール】必ず日本語だけで回答してください。英語は一切使用禁止です。" ) } # 2. 会話の履歴を管理するリスト（最初にシステムプロンプトを入れ
AI実装検定S級に合格したので、そこに至るまでの過程をここにまとめる。 合格に必要な知識 試験要項にある通りのCNNとNLPの知識 KerasやPytorchでの転移学習というよりは、内部構造の話がメイン numpyの知識も問われる 理論は必要だが、それよりもコードを書く能力が問われる パラメータの値(学習率、チャンネル数、フィルタサイズなど)も覚えておいたほうが良い ライブラリの使い方よりも、ライブラリの基底
主に、pytorchとkerasの実装上の問題についてまとめる。 Q: pytorch の シーケンス系レイヤ(RNNやTransformer)で使用される batch_first 引数とはなにか？ A. 入力テンソルの次元の並び順を指定している。 batch_first 引数が使われる場所 以下、シーケンス系のレイヤで使用されている。 RNN系 torch.nn.RNN torch.nn.LSTM torch.nn.GRU Transformer系 torch.nn.Transformer torch.nn.TransformerEncoderLayer torch.nn.MultiheadAttention batch_first 指定による作用 この引数の指定により、入力テンソルの次元の並び順を指定できる。 batch_fir
■ CNN（30問） VGGに関する記述として正しいものはどれか A. 畳み込みカーネルは主に7×7を使用 B. 畳み込みカーネルは主に3×3を積み重ねる C. Residual接続を持つ D. Depthwise Separable Convを使用 KerasでVGG風のブロックを作る際に適切なのはどれか A. Conv2D → BatchNorm → ReLU → MaxPool B. Dense → Conv2D → Dropout C. Conv1D → Flatten → LSTM D. GlobalAveragePooling → Conv2D VGGの欠点として適切なのはどれか A. 表現力が低い B. パラメータ数が多い C. 勾配消失が発生しない D. 軽量モデルである G