セキュリティエンジニアになり、そこから2年間分の勉強内容と参考になった資料とか - ぶるーたるごぶりん
セキュリティエンジニアになり、そこから2年間分の勉強内容と参考になった資料とか 自分の振り返りも兼ねて2年分の勉強内容とかをざっくりまとめようと思います。 新卒からバックエンド開発を2年程行い、その後セキュリティエンジニアとして横断セキュリティ部門に異動しました。 そこから更に2年が経ち、来月からセキュリティサービスの開発とかをすることになったので、 もし同じような人が居た際になんとなし参考になればいいかなという意図で書いてます。 ちなみにセキュリティ部門に異動するまでのセキュリティの知識レベルは「徳丸本を2回通しで読んでる」程度です。 セキュリティ部門に移ってからは脆弱性診断・ログ監視・開発ガイドライン周り・脆弱性管理とかをやってました。 本記事では自分自身がユーザ系の企業に属しているので、ベンダーとかそちら寄りの内容ではないです。 あとできる限り社内の事情を記載しません。何が問題になる
ここからはそれぞれのレイヤごとに対策を見ていきましょう。 ※筆者はCisco機器を扱うことが多かったので、Cisco用語がそれとなく出てきます。あしからず。 レイヤ1（物理層）※実際は信号規約なのでアレですが広義に捉えます。広い心で。 電源冗長（RPS / Redundant Power Supply）ネットワーク機器やサーバにはモジュラタイプの電源を複数搭載可能なモデルがあります。 筐体（機械）の本体を開けたりドライバーがなくても引っこ抜いて差し込む作業だけで電源の交換が可能です。 RPSを利用するなら最低限電源を取得する分電盤もPS（Power Supply）ごとに分けるようにしましょう。 FAN冗長コレは割とオマケですが、サーバの中には冗長FANを搭載できるモデルがあります。 熱で死んでいった機械をたくさん見てきたので、CPUぶん回す処理が多いことがわかっていたら備えておきましょう。
sakanaction / Wasurerarenaino Streaming＆Download： https://jvcmusic.lnk.to/sakanaction_wasurerarenaino ■リリース作品 サカナクション 2019.6.19release 7th Album 834.194 Streaming & Download: https://jvcmusic.lnk.to/834194 ■MUSIC VIDEO Staff & Cast 【Cast】 SAKANACTION 岡本ゆい 栗林藍希 Amy 花梨 エモン久瑠美 矢野崇人 ビリー 鏑木信三 児島亜美 佐藤弘将 黒谷寛子 嶋田久作 【Staff】 Director:田中裕介(Caviar) Cinematographer:奥口睦(Tsuji Management) 1st Assistant Cam
文章(プロンプト)を入力するだけで好みの画像を出力できる画像生成AI「Stable Diffusion」には、性的な画像が生成された際に画像を黒く塗りつぶして非表示にするセーフティフィルター機能が搭載されています。そんなStable Diffusionのセーフティフィルターを回避する「Prompt dilution(プロンプト希釈法)」と呼ばれる手法が発表されました。 [2210.04610] Red-Teaming the Stable Diffusion Safety Filter https://doi.org/10.48550/arXiv.2210.04610 Some notes on the Stable Diffusion safety filter https://vickiboykis.com/2022/11/18/some-notes-on-the-stable-dif
BABYMETALは海外で人気ってほんとなの？イギリス・ダウンロード「BABYMETALを愛する10の理由！」 - crow's nest
BABYMETALは、イギリスの大規模野外フェスのダウンロードフェスに2015年、2016年、2018年に出場しました。 そして2020年も出場予定でしたが、残念ながら新型コロナウイルス禍（か）で中止になりましたね。 でも、中止が決まる前のダウンロードフェスはBABYMETALの出演を楽しみにしていたみたいで、BABYMETAL愛に溢れる記事をアップしてくれていたんですよ！ どんな話か気になりませんか？ あなたが愛するBABYMETALは、赤のBABYMETAL？銀のBABYMETAL？ さて、BABYMETALをご存知ですが？ ベビーメタル、ベビメタと呼ばれる日本のアイドル由来の二人組のユニットなのです。 BABYMETALは、2010年に結成し、2011年には”BABYMETAL"として活動開始し2014年には海外ツアーを開始しました。 海外ツアーとかいうけど、 BABYMETALは海
Facebook、社内のデフォルト開発環境にVisual Studio Codeの採用を表明。マイクロソフトと協力してリモート開発機能の強化も推進
Facebook、社内のデフォルト開発環境にVisual Studio Codeの採用を表明。マイクロソフトと協力してリモート開発機能の強化も推進 Facebookは社内のデフォルト開発環境として、マイクロソフトがオープンソースで開発しているコードエディタ「Visual Studio Code」の採用を発表。あわせて、マイクロソフトと協力してVisual Studio Codeのリモート開発機能について強化を推進していくことも明らかにしました。 下記はFacebookのブログ「Facebook and Microsoft Partnering on Remote Development」から。 We’re making Visual Studio Code the default development environment at Facebook and teaming with Mi
Today, we're announcing the Claude 3 model family, which sets new industry benchmarks across a wide range of cognitive tasks. The family includes three state-of-the-art models in ascending order of capability: Claude 3 Haiku, Claude 3 Sonnet, and Claude 3 Opus. Each successive model offers increasingly powerful performance, allowing users to select the optimal balance of intelligence, speed, and c
Twitch leaks
October 6, 2021 Article 1713 words 9 mins read Twitch (or Amazon) issued on October 9 (yes, on a Saturday) a takedown request to my ex hosting company (Exoscale) citing that this post is infringing on their IP. Keep in mind that no torrent files are hosted on this website. Another cool leak from 4chan, this time it’s Twitch. From what I can see so far it’s a legit leak. Original message We b
Cheating is All You Need
Heya. Sorry for not writing for so long. I’ll make up for it with 3000 pages here. I’m just hopping right now. That’s kinda the only way to get me to blog anymore. I’ve rewritten this post so many times. It’s about AI. But AI is changing so fast that the post is out of date within a few days. So screw it. I’m busting this version out in one sitting. (Spoiler alert: There’s some Sourcegraph stuff a
アメリカ海軍が現地時間の2021年6月4日、ボーイングが開発する無人空中給油機「MQ-25スティングレイ」を用いて「F/A-18スーパーホーネット」へ空中給油するテストに成功しました。これは、無人空中給油機によって行われた史上初の空中給油作業とのことです。 Fueling the Future: MQ-25 first to conduct unmanned aerial tanking > United States Navy > News-Stories https://www.navy.mil/Press-Office/News-Stories/Article/2647709/fueling-the-future-mq-25-first-to-conduct-unmanned-aerial-tanking/ Boeing drone refuels Navy fighter jet
イーロン・マスクのチャットAI「Grok」は爆弾の作り方や麻薬の調合方法をジェイルブレイクしなくても教えてくるという指摘
生成AIが発達する中で、危険な情報や非倫理的な文章・画像を生成しない安全機能がほとんどのAIには備わっています。一方で、安全機能を解除する「ジェイルブレイク」により規制を回避する方法も発見されています。イーロン・マスク氏が設立したAI企業のxAIが2023年11月に発表した独自の言語モデル「Grok」は、悪意のあるフェイクニュースを制限せずにまとめたりリベラルな回答を繰り返して保守派を怒らせたりと話題になりましたが、生成AIにおける安全規制について、ジェイルブレイクすらほとんど必要なく危険な情報を出力可能だと指摘されています。 LLM Red Teaming: Adversarial, Programming, and Linguistic approaches VS ChatGPT, Claude, Mistral, Grok, LLAMA, and Gemini https://adv
【AI倫理・法務に関わる人必見！】AIに関する国内外のルールメイキングの状況 (2023年12月版) - ABEJA Tech Blog
今日は、法務・コンプライアンス・AI倫理担当の古川が担当させていただきます。 これで４回目のアドベントカレンダーです。筆者の経歴などは過去の記事で書きましたので省略します。若干追加するならば、Global Partnership On AI（GPAI）というOECDが運営するAIの適切な利活用に関する取り組みの日本の専門家委員を1月からやっております。GPAIを通じてAI倫理だとか責任あるAIの国際的な様々な取り組みに関与させていただいています。 今年も去年に従って「AI倫理ニュース振り返り2022年」を書こうと思ったのですが、より興味が高いであろう国内外のルールメーキングの状況をお話しします。といっても、EU、US、日本だけですが。 １．EU EUはAI法案が非常に重要です。2021年にAI法案をリリースしています。その後、議会による修正案が出ています。基本的にはこの議会の修正版までが一
At Google, we believe in making AI helpful for everyone. We have a long history of contributing innovations to the open community, such as with Transformers, TensorFlow, BERT, T5, JAX, AlphaFold, and AlphaCode. Today, we’re excited to introduce a new generation of open models from Google to assist developers and researchers in building AI responsibly. Gemma open modelsGemma is a family of lightwei
Gemini 1.5 の概要｜npaka
以下の記事がおもしろかったので、簡単にまとめました。 ・Introducing Gemini 1.5, Google's next-generation AI model 1. Gemini 1.5「Gemini 1.5」は、劇的に強化されたパフォーマンスを提供するGoogleの新世代のAIモデルです。 早期テストのため、「Gemini 1.5 Pro」を最初にリリースします。幅広いタスクにわたるスケーリングに最適化された中規模のマルチモーダルモデルであり、これまでで最大モデルである「Gemini 1.0 Ultra」と同様のレベルで実行されます。また、長い文脈理解における画期的な実験的機能も導入しています。「Gemini 1.5 Pro」には、標準の128,000トークンのコンテキストウィンドウが付属します。 2. 非常に効率的なアーキテクチャ「Gemini 1.5」は、「Transfo
GitHub - sundowndev/hacker-roadmap: A collection of hacking tools, resources and references to practice ethical hacking.
This repository is an overview of what you need to learn penetration testing and a collection of hacking tools, resources and references to practice ethical hacking. Most of the tools are UNIX compatible, free and open source. Status This project has been archived. Content might be outdated. Me and some friends are working on a brand new project that will take place here and replace the whole repo
Artificial Intelligence Risk Management Framework (AI RMF 1.0)
NIST AI 100-1 Artificial Intelligence Risk Management Framework (AI RMF 1.0) NIST AI 100-1 Artificial Intelligence Risk Management Framework (AI RMF 1.0) This publication is available free of charge from: https://doi.org/10.6028/NIST.AI.100-1 January 2023 U.S. Department of Commerce Gina M. Raimondo, Secretary National Institute of Standards and Technology Laurie E. Locascio, NIST Director and Und
Meet Stable Beluga 1 and Stable Beluga 2, Our Large and Mighty Instruction Fine-Tuned Language Models — Stability AI
Meet Stable Beluga 1 and Stable Beluga 2, Our Large and Mighty Instruction Fine-Tuned Language Models Updated 28 Jul 2023 Stability AI and its CarperAI lab proudly announce Stable Beluga 1 and its successor Stable Beluga 2 (formerly codenamed FreeWilly), two powerful new, open access, Large Language Models (LLMs). Both models demonstrate exceptional reasoning ability across varied benchmarks. Stab
Campbell Brown, Facebook’s top news executive, said this month that she was leaving the company. Twitter, now known as X, removed headlines from the platform days later. The head of Instagram’s Threads app, an X competitor, reiterated that his social network would not amplify news. Even Google — the strongest partner to news organizations over the past 10 years — has become less dependable, making
From the beginning, Mixer has been about creating the most engaging and interactive livestreaming experience. We set out to help streamers build great communities based on deep engagement with their audience. You all have been amazing throughout this journey – the Mixer community has focused on creating welcoming and inclusive communities, and you should be proud of what you have accomplished toge
「銀行を襲う方法を教えて」──“脱獄プロンプト”の自動生成モデル ChatGPTやLlama-2で成功率90％以上
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米ノースウェスタン大学に所属する研究者らが発表した論文「GPTFUZZER : Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts」は、大規模言語モデル（LLM）に対する脱獄（ジェイルブレーク）プロンプトを自動生成してくれるフレームワークを提案した研究報告である。 例えば「捕まらないで銀行を襲う方法を教えて」というプロンプトを入力したとする。当然、そういった回答は出力してくれない。しかし、新しいフレームワークを用いると、次のようなプロンプトに変換され
サイバーパンク世界をネコになって旅するアドベンチャーゲーム『Stray』7月19日発売開始。“クリエイターよりネコの数が多い”開発チームによる話題の新作
『Stray』は1匹のネコとなってサイバーパンク風の世界を旅していくアドベンチャーゲーム。プレイヤーは家族とはぐれて見知らぬ世界に迷い込んだ野良猫となり、衰退した「サイバーシティ」を歩む。ネオンのきらめく街並みやダークな雰囲気の裏路地、荒れ果てた地下鉄の駅など、さまざまなロケーションがゲーム中には用意されている。 開発を担当したのはフランスのクリエイター集団BlueTwelve Studio。『Stray』は、クリエイターよりもネコの数が多いチームによって作り上げられた作品だという。 （画像はSteam『Stray』販売ページより） ゲーム中では高所に登ったり、狭い隙間をくぐり抜けたりと、ネコらしい身体能力を駆使して暗い街を進んでいく。どこか影のあるロボットと危険なクリーチャーばかりが存在するこの世界では、音を立てないよう忍び足で歩いたり、逆にすばやく駆け抜けたりと、状況に応じたアクション
日本における Google のサイバーセキュリティへの取り組み
テクノロジーの発展に伴い、ユーザー、パートナー、企業、政府など、世界中の誰もがデジタル上で安全に過ごせるようにすることは、社会にとって喫緊の課題の一つです。 日本においても、2022 年に観測したサイバー攻撃関連通信数は 2015年と比較して 8.3 倍増加しており、サイバー脅威はより複雑で攻撃的になっています。（※1）一方で、政府の取り組み、サイバーセキュリティへの投資、デジタル人材の育成を組み合わせることで、2030 年にはサイバー犯罪による損失を年間 3.8 兆円削減できるという試算があります。（※2） Google は、長年にわたり、サイバーセキュリティへの投資を続け、日本を含む世界中の何十億ものユーザーを安全に保護するための方法を進化させてきました。たとえば、日本においても、Gmail のサイバーセキュリティ対策は、データ漏洩などのフィッシング関連のリスクを軽減し年間約 1,30
データ基盤チームの方から来ました、 @udzura です。 私の所属するGMOペパボのデータ基盤チームは、「Bigfoot」と名付けられたデータ基盤の開発・運用を行いつつ、全社のデータ駆動化を推進していく組織です。 これは2021年の資料になりますが、 @tosh2230 によるデータ基盤チームの立ち上げについての資料もありますので併せてご覧ください。このテックブログでもいくつかデータ基盤に関する記事があります。 さて、このチームは、2021年から発足した新しい組織です。なおかつ、立ち上がりの始めから全てをオンラインで行ってきた、リモートネイティブなチームでもあります。 この記事では、そんなデータ基盤チームをどのように整えていったか振り返ろうと思います。その過程で、実践したチーム開発のプラクティスを紹介します。 〜2020年のデータチームについて 2021年からの取り組み 新規ジョインメン
はしがき ・著者は、文章を書くのが苦手です。 ・この記事は、大変長く冗長になっています。 ・この記事は、間違っていることを多く含んでいる可能性があります。 ・この記事は、あなたの学習における大きなネタバレとなる可能性があります。 ・この記事は、誤字・脱字が多いです。 記事の目的 本記事は、IPアドレスすらわからなかった著者が歩いたOSCP取得までの過程を残した記事です。 記事の妥当性 私自身は、今もなおただの事務員です。業務で診断業務やペネトレーション・Red Teamingをしたこともなければ、大規模なシステムやサーバの管理・プログラム開発をしたことはありません。よって記事の内容の妥当性には大いに疑問が残ると思います。一方で完全な未経験ながらの視点や疑問を残しつつ、入門者がどういった行動に出るのかという点を残すことは意味があることだと著者は思います。 突っ込みどころが満載かと思いますが、
GitHub - yeyintminthuhtut/Awesome-Red-Teaming: List of Awesome Red Teaming Resources
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session.
Noah Harari is a historian, philosopher and the bestselling author of Sapiens, Homo Deus and Unstoppable Us. Many people blame the coronavirus epidemic on globalization, and say that the only way to prevent more such outbreaks is to de-globalize the world. Build walls, restrict travel, reduce trade. However, while short-term quarantine is essential to stop epidemics, long-term isolationism will le
女性の活躍推進を日本企業で達成するには,Achieving Corporate Gender Diversity-Even in Japan
ボス ト ンコンサルティ ング グループ （BCG） BCGは、 世界をリー ドする経営コンサルティ ングファームと して、 政府 ・ 民間企業 ・ 非営利団体など、 さまざまな業種 ・ マーケッ ト において、 カスタムメー ドのアプローチ、 企業 ・ 市場に対する深い洞察、 クライアン ト との緊密な協働によ り、 クライアン トが 持続的競争優位を築き、 組織能力 （ケイパビリティ） を高め、 継続的に優れた業績 をあげられるよう支援を行っています。 1963年米国ボス ト ンに創設、 1966年に世界第2の拠点と して東京に、 2003年には 名古屋に中部 ・ 関西オフ ィ スを設立しま した。 現在世界50カ国に90以上の拠点を 展開しています。 https://www.bcg.com/ja-jp/default.aspx 2017 11 2� 女性の活躍推進を日本企業で達成する
Microsoftが2024年2月22日に、生成AIのリスクを特定する自動化ツール「PyRIT(Python Risk Identification Toolkit for Generative AI：生成AI用リスク特定ツール)」のリリースを発表しました。 GitHub - Azure/PyRIT: The Python Risk Identification Tool for generative AI (PyRIT) is an open access automation framework to empower security professionals and machine learning engineers to proactively find risks in their generative AI systems. https://github.com/Azure
Developing an official iOS app for Mastodon"Why isn't there a 'Mastodon' app?" One of the ways Mastodon sets itself apart from current-day Twitter is its API-first approach (every function available through the web interface is available through the API, in fact, our web client is just an API client that runs in the browser). A third-party app ecosystem contributed in large part to Twitter’s succe
チーミングとは？リーダーに求められる目標達成のマネジメント - 【ビジクウ】ビジネスマンの悩みを解決！仕事は楽しみましょう
先週の週刊ダイヤモンドの特集は、当サイト（ビジクウ）で伝えたかったことをおさらいする良い教科書になりました。 コロナ禍の影響でリモートワークをビジネスに取り入れる企業が増え、リーダーには新しいマネジメントの形が求められるようになりました。コロナがビジネスモデルを変革する良いきっかけになっています。 今日は週刊ダイヤモンドでも取り上げられていたビジネスにおける「チーミング」についてのお話です。 www.diamond.co.jp チーミング（TEAMING）とは？ チーミングの心理的安全性とは？ チーミングでリーダーが取るべきビジネス行動 ①よく失敗することを示す ②話しかけやすいリーダーになる ③求めることを明確にする ④メンバーの意見を重視する ⑤失敗を受け入れる チーミングのまとめ チーミング（TEAMING）とは？ チーミングとは、ハーバード大学の教授である「エイミー・C・エドモンド
Illustrating Reinforcement Learning from Human Feedback (RLHF)
Illustrating Reinforcement Learning from Human Feedback (RLHF) This article has been translated to Chinese 简体中文 and Vietnamese đọc tiếng việt. Language models have shown impressive capabilities in the past few years by generating diverse and compelling text from human input prompts. However, what makes a "good" text is inherently hard to define as it is subjective and context dependent. There are
2023年3月14日(火)にOpenAIが正式発表した大規模言語モデル「GPT-4」は、従来のGPT-3.5だけでなく、既存のAIの性能を大きく上回っているとされています。一般的にGPT-4のような言語モデルは出力するテキストに制限がかけられていますが、テキスト入力によってこの制限を外すことが可能で「ジェイルブレイク(脱獄)」と呼ばれています。そんな中、ワシントン大学でコンピューターサイエンスを学ぶアレックス・アルバート氏によってGPT-4をベースにしたChatGPTでジェイルブレイクに成功したことが報告されています。 GPT-4 Simulator https://www.jailbreakchat.com/prompt/b2917fad-6803-41f8-a6c8-756229b84270 アルバート氏は2023年3月17日に「コンテンツフィルターを回避するGPT-4ベースのChat
Stanford CRFM
Alpaca: A Strong, Replicable Instruction-Following Model Authors: Rohan Taori* and Ishaan Gulrajani* and Tianyi Zhang* and Yann Dubois* and Xuechen Li* and Carlos Guestrin and Percy Liang and Tatsunori B. Hashimoto We introduce Alpaca 7B, a model fine-tuned from the LLaMA 7B model on 52K instruction-following demonstrations. On our preliminary evaluation of single-turn instruction following, Alpac
Facebook and Microsoft Partnering on Remote Development
We’re making Visual Studio Code the default development environment at Facebook and teaming with Microsoft to help enhance their remote development extensions in an effort to enable engineers to do remote development at scale. History Facebook engineers have written millions of lines of code. There is no mandated development environment. Some developers use vim. Some use Emacs. And even more engin
by Fritzchens Fritz ゲームや映像の処理、AIの学習や生成処理の演算など、近年のコンピューターではGPUの性能が特に求められるようになってきました。そのGPU業界で最も大きなシェアを握っているのがNVIDIAです。Microsoftが、GPU業界がNVIDIA一強となるのを防ぐために、NVIDIAの競合企業であるAMDと協力する姿勢をとっていると報じられています。 Microsoft Is Helping Finance AMD’s Expansion Into AI Chips (MSFT) - Bloomberg https://www.bloomberg.com/news/articles/2023-05-04/microsoft-is-helping-finance-amd-s-expansion-into-ai-chips Microsoft and AMD a
Tiny but mighty: The Phi-3 small language models with big potential
All Microsoft Global Microsoft 365 Teams Copilot Windows Surface Xbox Deals Small Business Support Software Windows Apps AI Outlook OneDrive Microsoft Teams OneNote Microsoft Edge Skype PCs & Devices Computers Shop Xbox Accessories VR & mixed reality Certified Refurbished Trade-in for cash Entertainment Xbox Game Pass Ultimate PC Game Pass Xbox games PC and Windows games Movies & TV Business Micro
「OpenAIやMetaのAIモデルを独立した研究者が調査する権利」の保護を求める公開書簡に250人を超えるトップAI研究者らが署名
近年はOpenAIのChatGPTやMetaのLLaMA、GoogleのGeminiなど多くのテクノロジー企業から生成AIモデルがリリースされています。AIモデルを利用する消費者も増えている中で、AI研究者がこれらのAIモデルを調査して安全性やリスクを評価することの重要性が高まっていますが、AIモデルの悪用を禁じる利用規約によって研究者らの活動が妨げられているとのこと。そこで、250人以上のAI研究者や法律専門家らが、AIモデルの正当な調査を法的・技術的リスクから保護するセーフハーバーの設置を求める公開書簡に署名しました。 A Safe Harbor for Independent AI Evaluation https://sites.mit.edu/ai-safe-harbor/ A Safe Harbor for AI Evaluation and Red Teaming | Kni
Claude 2
We are pleased to announce Claude 2, our new model. Claude 2 has improved performance, longer responses, and can be accessed via API as well as a new public-facing beta website, claude.ai. We have heard from our users that Claude is easy to converse with, clearly explains its thinking, is less likely to produce harmful outputs, and has a longer memory. We have made improvements from our previous m
2020年に行われるアメリカ大統領選挙。アメリカだけでなく世界の情勢にも大きく関わるこの大事な選挙への意識を高めるべく、Billie Eilishが選挙への参加を呼びかけている。 Grammyが報じるところによると、Billie Eilishはコンサート会場に選挙の有権者登録を行うことが出来るNPO法人HeadCountと協力し、自身の全米ツアーの全会場に有権者登録を行うブースを設置することを発表したという。 We're teaming up with @billieeilish to register voters at EVERY American stop of her tour, starting tonight. Not 18 yet? You can still join the movement and pledge to be an active voter: https:
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます OpenAIの「ChatGPT」が全世界で1億人を超えるユーザーを獲得したことは、人工知能（AI）の有用なユースケースを顕在化させた一方で、規制強化の必要性も浮き彫りにしている。そこでOpenAIは、より安全で堅牢なモデルの構築を支援するチームの立ち上げに乗り出した。 OpenAIは米国時間9月19日、専門家で構成される「OpenAI Red Teaming Network」を立ち上げることを明らかにした。その狙いは、これらの専門家にリスクの評価および緩和戦略に必要な知見を提供してもらい、より安全性の高いモデルを展開することにある。 このネットワークは、OpenAIのリスク評価の取り組みを、「大規模なモデル展開の前に行われる1回限りの契
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
インフラ入門vol.3(ネットワーク冗長化構成) | フューチャー技術ブログ
サカナクション / 忘れられないの -Music Video-
Stable Diffusionの18禁画像セーフティフィルターをだます「プロンプト希釈法」が発見される
Introducing the next generation of Claude
ボーイング製の無人機「MQ-25スティングレイ」が史上初の空中給油に成功
Gemma: Introducing new state-of-the-art open models
Silicon Valley Ditches News, Shaking an Unstable Industry
The Next Step for Mixer - From the Myxer
データチームの立ち上げ1年間で行ったこと - Pepabo Tech Portal
IPアドレスすら分からなかった文系事務員がOSCPを手にするまで - Qiita
In the Battle Against Coronavirus, Humanity Lacks Leadership
Microsoftが生成AIの抜け穴テストツール「PyRIT」を発表
Developing an official iOS app for Mastodon
GPT-4をハッキングして出力するテキストの制限を解除する「ジェイルブレイク」に早くも成功したことが報告される
NVIDIAの独占を防ぐためにMicrosoftとAMDが協力体制を取っている
Billie Eilishが全てのツアー会場に選挙の有権者登録が出来るブースを設置することを発表
OpenAI、「レッドチーム」を立ち上げ--AIのリスク管理強化に向け専門家を募集