AISHA
Project Glasswing
Misaki's LAB

私たちはどこに向かうのか―Project Glasswingが示したAIの現在地

伊東 美沙貴

AISHA株式会社

伊東 美沙貴

misaki-lab / claude-mythos-project-glasswing.md

AIの情報は溢れ、SNSはノイズまみれだ。

驚き屋のインフルエンサーが適当なことを言い、フォロワーを集める。
今のSNSはチーム戦の側面もある。
チームを組み、あたかもそれが話題のように見せることも可能だろう。

Youtube、X、Instagram、tiktok・・・
SNSは人の注意と時間を奪うことに人参がぶら下げられている。

だから私はノイズに注意と時間を奪われないように、公式の情報を頼りにするようにしている。

だけど公式の情報についてふれる人はとても少なく、周囲と話しをしていても、どうも話が噛み合わない。
驚き屋の話は知っているのに、本当に重要なニュースが届いていない。

そのもどかしさを感じるたびに、やっぱり自分で書こうと思う。

現場からみた今1番Hotなニュース
「Project Glasswing」

最近すごいなと思ったニュースは、Anthropicのプロジェクト「Project Glasswing(プロジェクト・グラスウィング)」だ。(プロジェクト名の由来は、透明な羽を持つ蝶)

このプロジェクトを簡単にまとめると…
Anthropic(Claude)の最新のAI「Claude Mythos Preview(クロード ミトス プレビュー)」は、世界最高レベルのエンジニアと同等レベルの力をもっていた。
(もはやそれ以上だが、控えめに表現されている)

そんなClaude Mythos Previewは、システムのある1つの脆弱性をみつけるだけでなく、複数のわずかな脆弱性を組み合わせて、新しい攻撃経路を自律的に発見することができる。技術論文
発見から攻撃まで自動化できるフェーズへと進化したといえる。

このシステムの脆弱性は、たった1つのバグが入っただけでも、世界中にそれが広がり大きな影響をもたらす。

だけどそのわずかな、ほんの小さなバグを見つけるのに膨大な時間とコストが必要になる。
ところがClaude Mythosは、それをほんのわずかな時間で発見する。

それがあまりに偉大で悪意ある方向にも使えてしまうので、Anthropicは一般公開を取りやめた。

そしてAnthropicは、信頼できるパートナー企業(Apple、Cisco、AWS、Google、Microsoft、NVIDIA、Linux Foundationなど)と集結し、脆弱性をみつけ、安全なシステムづくりに役立ててもらい、フィードバックを得て人類に安全なAIを提供する、というのがこのプロジェクトだ。

公式の一次情報を見ていると、もうシンギュラリティはきたように思う。

もうお金を出したら最新のAIが使えるフェーズは終わったとも言えるし、人間の方がノイズになっている部分もあるとも言える。

この話だけでも、私たちがつかっているAIが一体何なのか、私たちはそれをつかいどこに向かおうとしているのか、人が話し合う大切なテーマだと思う。

だけど今日もノイズが多い。

Leave a Comment

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

CAPTCHA