「それは、本当に安全なんですか？」 セキュリティ専門家が「GitHub Copilot」の全社一斉導入時に考えたあれこれ

「GitHub Copilot 導入時に考えたセキュリティのあれこれ」というタイトルで登壇したのは、freee株式会社のただただし氏。タイミー社主催の「GitHub Copilotで拓く開発生産性」で、「GitHub Copilot 」を全社一斉導入する際に考えるべきセキュリティリスクについて発表しました。 freee株式会社 PSIRT マネージャーのただただし氏 ただただし氏：freee株式会社のただただしと申します。 今日は、「GitHub Copilot 導入時に考えたセキュリティのあれこれ」ということで、Copilotのセキュリティリスクについて語るわけですが、考えてみたら、GitHubの中の人を前にこんなことをしゃべるのは相当大胆な話だと思います。最後にいいことで締めるのでちょっと我慢してください。 自己紹介をいたします。ただただしと申します。PSIRTという組織でマネージャー

[youko03]

“ソースコードはそんなに大事じゃない/ソースコードが仮に漏れたとしても現在のプロダクトのスナップショットに過ぎない/本当に大事なのは、メンテナンスしたり拡張し続けていく開発チームそのもの開発チームのほう"

[sezemi]

いちいち材料が的確で判断がブレてない。。たださんはすごい人

[uunfo]

わかりやすい！『インターネット老人会のみなさんには、「tDiary」の作者といえばだいたい通じる』

[findup]

ソースが大事かどうかは業態やビジネスによるとしか。データのほうが重要な所もあるだろうし、ソースにその会社のノウハウのロジックが詰まってるケースもあるだろうしどちらか一方だけが正解は無いと思う。

[s_nagano]

“それでもfreeeはCopilotを導入します。これはもう先ほど言ったとおり、さまざまなリスクを上回るメリットがある。我々は、競争力を維持するためになんとしても開発チームの生産性を上げなければいけないんですね。”

[toro-chan]

ソースコードそのものは重要じゃないけど、テストコードに意図せずパスワードが埋まってたりする場合があってそれが悩ましい。全部セキュアであることを保証しろって言われると、めんどーと思う。

[diveintounlimit]

“Copilotが提案してきたコードをきちんと吟味できるだけの高い技術力は維持してください。Copilotは古いコードしか提案してこないリスクがあるので、新しいことに自らチャレンジする強さが必要です”

[eagleyama]

“もう1つは、Copilotは古いコードしか提案してこないリスクがあるので、新しいことに自らチャレンジする強さが必要ですよ、という点”

[misarine3]

“インターネット老人会のみなさんには、「tDiary」の作者といえばだいたい通じる”わあ！

[dorapon2000]

“「for Business」。ビジネス用のライセンスの場合、「テレメトリ、プロンプト、候補は、GitHub側に保存されませんよ」と書いてあります。学習しないだけでなく、保存もしませんよということですね。”

[fellfield]

『GitHub側からきちんと回答が提示されていて、まず、「学習元のソースコードは、パブリックなものに限りますよ」と明言されています』　『「プライベートリポジトリは学習されませんよ」と書いてあるんですね』

[isrc]

実はソースコードはそんなに大事じゃないんじゃないかという考え方がベースにあります。本当に大事なのは、そのプロダクトをメンテナンスしたり拡張し続けていく開発チームそのものです。

[sigesaba]

「GitHubは、Copilotが吐き出したコードの著作権を放棄します」と言っているのですが、この判例を見る限りは、GitHubのものでもないけれど、もしかすると我々のものでもないかもしれない、というリスクがあります。

[tmatsuu]

生成AIの出力に著作権はあるか問題、日本の裁判の判例も欲しいね。だれか日本でやってないだろうか。

[shirokurostone]

“もう1つは、Copilotは古いコードしか提案してこないリスクがあるので、新しいことに自らチャレンジする強さが必要ですよ、という点。”

[pmint]

全部問題ない。オープンソース知らない人か。最適なコードは著作権で保護されない。これまで利用してきたアルゴリズムに著作権使用料払ってきたの？問題になるのは特許のほう。

[Karosu]

大昔にあった間違った記載のあるWikipediaの丸写しレポートと同じで、それなりに技術を高めないと問題に気付かずに使ってしまう。

[taguch1]

github使ってる時点で気にすんなって気持ち。

[iwanofsky]

良記事

[mkzsdisk]

AIを使うとコードの生産性が上がるってよく言うけど本当にそうなのかな。最近ChatGPT使ったけど、どうしてもこっちの欲しいコードにならなくて虚無だった。聞き方が悪いんだろうけど…

[PrivateIntMain]

"こういう偉い人が暴走してしまったら、羽交い締めをしてでも止める権利がある。" まずこの仕組みが機能していて、その上でセキュリティポリシーに沿って選定されないと話にならない。

[daishi_n]

copilotを安全に使用するためのソースコードの目利き、権利侵害(=コード汚染)が来た場合の対策手順が必要だよね。後者は面倒だけど経営陣巻き込んで防火かな

[mas-higa]

"コードを無条件で受け入れるリスク" これはただの IDE の頃からあって、適当な変数に . を付けて出てきたコードを選ぶだけでコード書くみたいなの。

[tomono-blog]

技術力の高いソースコードは、AtCoderとか競プロのコードや計算機科学の論文から食べさせたものを使えばええんとちゃう。。?(よわよわコーダーから低みの見物)

[houyhnhm]

著作権は悩ましい所があって、このサービスから出て来るプログラムが別の会社さんで似通う可能性なんだよなあ。／ただまあ、基本的に今までの技術でも起こって来た事でノーコードツールとかとあんまり変わらんと思う

[arakash]

GitHub Copilot導入時のリスクと評価が整理されている、ソースよりそれを開発したチームが重要と言えるカルチャーは圧巻すぎる

[poad1010]

この記事をおすすめしました

[minamishinji]

Copilotの硬直化については興味ある。どうなるんだろうね。 / 人間の老化と似てるなーと感じた。

[delphinus35]

tDiaryの作者！！に目が止まったので僕も老人会入り。

[defiant]

この記事をおすすめしました

[raitu]

“GitHub側からきちんと回答が提示されていて、まず、「学習元のソースコードは、パブリックなものに限りますよ」と明言されています”

[kzm1760]

ここまで考えられるが専門チームなんだと改めて認識した。

[takayaman]

生成されたコードが著作と認定されず、誰も著作権を主張できない可能性。

[akymrk]

“偉い人が暴走してしまったら、羽交い締めをしてでも止める”"プライベートリポジトリは学習されません""テレメトリ、プロンプト、候補は、GitHub側に保存されません" "リスクよりも生産性向上を優先"

[raimon49]

Copilotの学習元であるGitHub上のパブリックコードにも、Copilot自身の出力したコードが増えて行ってるはずだが、教師データとして学習し続けることになる。これはなるほど。

[tettekete37564]

“本当に大事なのは、〜中略〜開発チームそのものです。” < 素晴らしい。運用の都合上一部モジュールを公開リポにしたかったが説得に応じてくれなかった前職。セキュ知識ゼロに近い人たちだったからなあ

[jinjin442]

おもしろ。こういうプレゼンができる人間になりたいものだ。

[lets_skeptic]

さすがたださんといった内容