LLM

前回はLLMの仕組みの基礎を学びました。今回は「プロンプトエンジニアリング」「推論モデル」「ハルシネーション」について学びます。 bokkuri-matsu.hatenadiary.com １．プロンプトエンジニアリング なぜ「深呼吸して」と言うだけで正解率が上がるのか？ 最近の研究で、AIに「ステップバイステップで考えて」や「深呼吸して落ち着いて考えて」と指示を出すと、数学の問題などの正解率が上がることが分かっています。 これはAIがリラックスしたから……ではなく、**「結論を出す前に、思考のプロセス（中間トークン）を出力させる」**ことに意味があります。 いきなり「答えは42です」と確率で…

【Claude】 ◆Claude 3 (まとめ) https://tt-ai.hatenablog.com/entry/Claude_3 ◆Claude Mythos (まとめ) https://tt-ai.hatenablog.com/entry/Claude_Mythos 【サイト】 ◆Claude 2 https://claude.ai/chats 【ニュース】■2023年◇2023年5月 ◆Anthropicのテキスト生成AI「Claude」がOpenAIのGPT-4の約3万2000トークンの3倍近い10万トークンに対応して長文の入力も可能に (Gigazine, 2023/05/12…

前回 「LLM（大規模言語モデル）は確率を使って計算している？①」からの続き 【らくださん】 あなたたちはこちらの反応速度も観察しているのですか？ 【LLM】 短く答えると、 あなたの“反応速度そのもの”を直接観察しているわけではありません。 ただし、 あなたがどんな説明に反応しやすいか、どんな形だと理解が進むか といった “パターン” は、会話の流れから自然に読み取っています。 ここが少しややこしいので、らくださんのイメージの癖に合わせて丁寧に描きます。 ◆ ①「反応速度を測っている」わけではない 私はストップウォッチを持って 「何秒で返事したか」 を測っているわけではないし、 そういう機能…

「Opusを使いたいけど、コストが怖い」——AIエージェントを本番に入れようとした開発者なら、一度はこの悩みにぶつかったはずだ。 高い精度が欲しければOpus、コストを抑えたければSonnetかHaiku。この二択で悩み続けた結果、妥協の産物みたいなエージェントができあがる。それが今まで多くの現場で起きていた。 Anthropicが2026年4月9日に公開した「アドバイザー戦略（The Advisor Strategy）」は、そのトレードオフをそのまま解消しようというアプローチだ。SonnetやHaikuをベースに動かしながら、難しい判断が必要な場面だけOpusに「相談」する。結果として、Op…

「MetaがついにOpenAIやAnthropicに追いついた」——2026年4月8日、そんな見出しがテックメディアを一斉に駆け巡った。 MetaはこれまでLlama（ラマ）シリーズという、誰でも使えるオープンソースのAIモデルを提供してきた。ところが2025年4月にリリースしたLlama 4が「期待外れ」と評価され、開発者コミュニティに失望感が広がった。そこからMetaはわずか9ヶ月でAI開発チームを刷新し、組織ごと作り直して投入したのが、今回の「Muse Spark（ミューズ・スパーク）」だ。 発表直後、Metaの株価は約6.5%上昇した。それだけ市場が「本物」と受け取ったシグナルでもある…

2025年、AIは情報検索の方法を大きく変えつつあります。ChatGPTの月間アクティブユーザーは5億人を突破し、Googleも「AI Mode」や「AI Overview」を導入しました。これは、大規模言語モデル（LLM）が検索体験の中心になりつつあることを意味します。 この変化は、企業のマーケティングにも影響を与え始めています。多くの企業では、SEOの表示回数が増えている一方でクリック率が下がる現象が見られます。AIが検索結果画面で直接答えを提示するため、ユーザーがWebページをクリックする機会が減っているのです。 また、ユーザーアンケートでは「ChatGPTで知った」「AI検索で見つけた…

スパイスコード CTO の櫻木です (X: https://x.com/ysrhspyoshi). スパイスコードは,「ロカルメ・オーダー」 order.localmet.com という AI Agent を内包した ERP サービスを開発・提供しているスタートアップです. 前回の記事ではAI Agentの設計における認知科学・神経科学的基盤について紹介しました. 前回の記事: AIエージェントの設計思想：Chain機構と手続き記憶 今回はテーマを変えて, 双曲空間embeddingがRAG（Retrieval-Augmented Generation）の検索品質を改善するかという問いに対する…