本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、LLMを制御するためのアプローチについてご紹介します。 問題意識 LLMが抱えるリスク LLMの振る舞いを制御するための技術 モデルを調整するアプローチ プロンプトエンジニアリング ファインチューニング アライメント モデルの前後を管理するアプローチ データクリーニング モデル監視 出力フィルタリング こんにちは、アナリティクスサービス部の辻です。 今回はLLM(Large Language Model、大規模言語モデル)の振る舞いを制御するためのアプローチに
SBテクノロジー、クラウドのセキュリティリスクを検出・通知する「クラウドパトロール」を提供 | IT Leaders
IT Leaders トップ ＞ テクノロジー一覧 ＞ セキュリティ ＞ 新製品・サービス ＞ SBテクノロジー、クラウドのセキュリティリスクを検出・通知する「クラウドパトロール」を提供 セキュリティ セキュリティ記事一覧へ [新製品・サービス] SBテクノロジー、クラウドのセキュリティリスクを検出・通知する「クラウドパトロール」を提供 Microsoft Defender for Cloudを利用 2023年8月21日(月)日川 佳三（IT Leaders編集部） リスト SBテクノロジーは2023年8月21日、クラウド監視サービス「クラウドパトロール」を提供開始した。AWS/Azure/Google Cloudなど主要なパブリッククラウド環境を対象に、不正アクセスや情報漏洩につながるリスクを発見・通知する。60分ごとにクラウド環境を監視し、インシデント発生につながる設定上の不備やインシ
最近はもっぱらジム行って筋トレと水泳しかしてないですが、久し振りにブログを書こうと思います。 何を書くかと言うと、じつは少し前に、MITRE ATT&CKを完全に理解しました。せっかくなので、これを忘れないうちにアウトプットしていきます。あと、このフレームワークはセキュリティ監視をする上でとても役に立つため、知ってもらいたいと思っています。 セキュリティ監視入門！ MITRE ATT&CK編 フレームワークの理解現状の評価テクニックの選定ログ収集の最適化検出ルールの作成・最適化シミュレーションテスト監視体制の強化継続的な学習定期的なレビュースタッフの教育・トレーニング 今日は「1. フレームワークの理解」です。 では、さっそく。 1.フレームワークの理解1.1 MITRE ATT&CKフレームワークとはMITRE ATT&CKフレームワークは、サイバーセキュリティの世界で広く採用されている
社員のメールもSlackも「AI監視」 不正横行を防ぐ“最強のツール“とは？：孫正義も驚嘆（1/3 ページ） ビジネスコミュニケーション上の不正を、AIの技術によってリアルタイムで監視するサービスを提供している企業が、米ニューヨークに本社を置くビヘイボックス。創業者に、高い精度での監視を実現する戦略と、経営者によるリスク把握の重要性を聞いた。
LLMOpsを推進！Azure Log Analyticsを活用したLLMの継続的な監視と改善 - AITC - ISID | AI トランスフォーメンションセンター コラム
こんにちは！AIソリューショングループの太田です。 このコラムでは、Azure Log Analyticsを使ったLLMOpsの実現方法について紹介します。 昨年から大規模言語モデル（LLM）を製品やサービスに組み込む企業が増えています。 しかし、LLMサービスの品質を維持するには、その運用にも注意を払う必要があります。 具体的には、LLMの出力の品質管理や、ユーザーからのフィードバックを元にしたプロンプトの最適化など、継続的な監視と改善が求められています。 これらの運用上の活動にAzure Log Analyticsが役立ちます。 LLMOps（LLM（Large Language Model）+ Ops（Operations））とは LLMOpsは製品に組み込まれたLLMの運用に必要なベストプラクティスの概念を指します。 例えば、LLMの運用ではLLMの出力の監視と評価とプロンプト管理
実運用から見えてきたMackerelをより活用するためのtips集 - Mackerel Meetup復活記念連載 #4 - Mackerel お知らせ #mackerelio
こんにちは。Mackerel CREの id:do-su-0805 です。 はてなには2018年の9月にPlatform SREとして入社し、社内基盤や、社内のさまざまなサービスの運用を見たり作ったりしてきました。今年の5月からMackerel CREに異動し、主にテクニカルサポートとしてお客様からのお問い合わせに対応したり、ドキュメントを拡充したりしながら、よりMackerelを活用いただけることを目標に勤しんでいます。 さて、Mackerel Meetup #14 Tokyo開催までの期間で「Mackerel Meetup復活記念連載」と題して、Mackerelの新機能紹介などのブログ連載を実施しています。 mackerelio.connpass.com 今回は、Platform SREとしてMackerelを利用したサービス運用をしてきたり、Mackerel CREとしてテクニカルサ
世界中でサイバー攻撃の脅威が拡大する中、日本国内のセキュリティ意識はデジタル先進国の各国から遅れをとっている状況と言える。アメリカとの比較では、サイバーセキュリティ対策への投資額が5000万円以上の企業がアメリカは71％であるのに対し、日本は32％という調査結果（出典：IPA「企業のCISOやCSIRTに関する実態調査2017-調査報告書-」）もあり、セキュリティ投資が十分でない状況が伺える。 そこで、SaaS／ASPなどのクラウドサービスのセキュリティ対策状況を第三者評価する「Assured」は、2023年のセキュリティトレンド総括として海外／国内サービスのセキュリティ対策状況を比較し、その傾向を発表した。 調査レポートの詳細は以下の通り（Assured調べ）。 第三者認証取得 国内でSOC2を取得しているサービスは8.6%のみ。ISO/IEC 27001は海外、国内ともに半数以上が取得
サーバ監視品質担保のための夜勤シフトの仕事
はじめまして。MSPグループの夜勤チームのいかろちゃんです。 夜勤チームには特有の仕事がいくつかあります。 その中のひとつが各サーバにおける監視状況や通知設定が適切な状態にあるかをチェックするという仕事です。 今回はそれについて特にどういう部分を自動化していて、どうやって運用しているのかを紹介します。 はじめに サーバ監視業務を行ううえで不要なアラートを抑制することは重要です。アラートを抑制しないと大量のアラートに埋もれてしまったり、あるいはアラート通知が「どうせ対応不要のアラートだからいいや」など本当に重要なアラートを見逃してしまう可能性が上がってしまうためです。不要なアラートとして比較的多く見られるものは計画したメンテナンスや作業によるアラートが挙げられます。 ハートビーツ作業やお客様によるメンテナンスの際に一時的に監視通知の停止（以下、通知停止）や監視チェック実行の停止（以下、監視停
AMDは同社コミュニティページ上で、現行Ryzen 8040プロセッサシリーズが内蔵する「Ryzen AI」コアの動作率をタスクマネージャー上で監視できるよう取り組んでいると明らかにした。 AMD Ryzen 8040シリーズ搭載の“Ryzen AI”、もうすぐタスクマネージャーに表示されるように Intel Core Ultraシリーズが内蔵するNPUは投入直後からWindowsのタスクマネージャーに独自のカラムが設定されており、動作している様子をわかりやすく確認できる。一方、先行していたRyzen AIコアはタスクマネージャーでの動作状況の監視に対応しておらず、ちゃんと動作しているかがわかりにくい状況が続いていた。今回これを受けて、Ryzen AIの動作状況を確認できるよう取り組んでいることを明らかにした形だ。 ちなみに、Ryzen AIはMCDM（Microsoft Compute
SSM Agent の Ping ステータスを監視する仕組みを EventBridge + Lambda 関数 + SNS を使って実装してみた | DevelopersIO
はじめに テクニカルサポートの 片方 です。 前回のブログで執筆数が 200 本を越えました。199 本目、200 本目 のブログに引き続き Lambda 関数を利用した内容を紹介します。 こちらは、私の所属するテクニカルサポートチームへ「〇〇〇 を実現するサービスや機能はないか」と実際にお客様より頂いたお問い合わせを参考 (ヒント) にしてカスタムソリューションを作成してみました。 本ブログでは、マネージドノードに表示されている SSM Agent の Ping ステータスを監視する仕組みを EventBridge + Lambda 関数 + SNS を使って実装してみました。 構成と説明 SSM エージェントのステータスを毎分ポーリングする Lambda 関数を作成します。それをメトリクスとして取得して CloudWatch に送信します。 上記で作成した SSM エージェントのメトリ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
LLMを制御するには何をするべきか？ - Platinum Data Blog by BrainPad
ぷらっとホーム、Syslogサーバーアプライアンス「EasyBlocks Syslog HX」を発売 ログの受信性能を最大4倍に高速化
セキュリティ監視入門！ MITRE ATT&CK編 その①フレームワークの理解
社員のメールもSlackも「AI監視」 不正横行を防ぐ“最強のツール“とは？
ぷらっとホーム、大規模システム向けSyslogサーバーアプライアンス「EasyBlocks Syslog ProLine」を発表
アシュアード、2023年における海外SaaSと国内SaaSのセキュリティ対策を比較したレポートを公開
ぷらっとホーム、リモートからの保守作業を支援するアプライアンス「EasyBlocks リモート監視管理」
AMD Ryzen 8040シリーズ搭載の“Ryzen AI”、もうすぐタスクマネージャーに表示されるように