Amazon Web Services ブログ

Category: Amazon Machine Learning

自動推論に立ちはだかる 3 つの難題

自動推論の分野に 30 年以上携わってきた著者が、生成 AI で正しい推論を実現するうえで最も厄介だと考える 3 つの難題を紹介します。あいまいな自然言語から構造化された論理への変換、絶えず変化し、時には矛盾するルールのもとでの真理の定義、そして SAT (充足可能性問題) ソルバーでも越えられない計算量の壁やゲーデルの不完全性定理が示す確定的な推論の限界です。これらは単なる技術的ハードルにとどまらず、技術の限界と人間が作る仕組みの複雑さの両方に根ざした問題です。Amazon Bedrock Guardrails の自動推論チェックがこれらにどのように取り組んでいるかを解説します。

単一のアクションを越えてエージェントの振る舞いとコストを制御する: Amazon Bedrock AgentCore の新機能

AI エージェントは自ら実行パスを決めるため、個々の呼び出しは正当でも全体として危険な振る舞いが生まれます。Amazon Bedrock AgentCore に、一連のアクションを評価する時系列ポリシー (オープンソースのポリシー言語 Dogwood が基盤) と、ゲートウェイでのレート制限が加わりました。エージェントのコードを変更せず、振る舞いとコストの上限をインフラ側で強制できます。

← Older posts
Newer posts →