GitHub - NVIDIA/NeMo-Guardrails: NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails to LLM-based conversational systems.

LATEST RELEASE / DEVELOPMENT VERSION: The main branch tracks the latest released beta version: 0.8.2. For the latest development version, checkout the develop branch. DISCLAIMER: The beta release is undergoing active development and may be subject to changes and improvements, which could cause instability and unexpected behavior. We currently do not recommend deploying this beta version in a produ

[misshiki]

“NeMo Guardrails は、プログラム可能なガードレールを LLM ベースの会話型システムに簡単に追加するためのオープンソース ツールキット”

[yamadar]

大規模言語モデルの出力で、例えば政治などの特定の話題を避けるように制御する。信頼できる安全なLLM会話システムの構築に必要になりそうな機能

[shunkeen]

大規模言語モデル（LLM）を利用するシステム変な情報を見に行ったり、変な話題に逸れたりしないようにガードレールを敷設するためのOSS。これって、Auto-GPTと組み合わせたら安全に自律駆動させられるようになるのか？