Add links

Author: kdmsnr

_posts/2025-08-28-202508-ai-thoughts.md

@@ -40,7 +40,7 @@ AIがソフトウェア開発に与える影響についての初期の調査を
 
 <!-- I retired from public speaking a couple of years ago. But while I don’t miss the stress of giving talks, I do miss hanging out with my friends in the industry. So I’m looking forward to catching up with many of them at GOTO Copenhagen. I’ve been involved with the GOTO conference series since the 1990s (when it was called JAOO), and continue to be impressed with how they put together a fascinating program. -->
 
-数年前、私は講演活動を引退した。講演のストレスは恋しくないが、業界の友人たちと交流できなくなったのはさびしい。だからGOTO Copenhagenで多くの人たちに会えるのを楽しみにしている。私は1990年代（まだJAOOと呼ばれていた頃）からGOTOカンファレンスに関わっている。彼らが興味深いプログラムを企画していることに今でも感心する。
+数年前、私は講演活動を引退した。講演のストレスは恋しくないが、業界の友人たちと交流できなくなったのはさびしい。だから[GOTO Copenhagen](https://gotocph.com/2025)で多くの人たちに会えるのを楽しみにしている。私は1990年代（まだJAOOと呼ばれていた頃）からGOTOカンファレンスに関わっている。彼らが興味深いプログラムを企画していることに今でも感心する。
 
 ---
 
@@ -73,8 +73,8 @@ LLMはジュニアエンジニアと比較される。そこにはもっとも
 
 <!-- LLMs create a huge increase in the attack surface of software systems. Simon Willison described the The Lethal Trifecta for AI agents: an agent that combines access to your private data, exposure to untrusted content, and a way to externally communicate (“exfiltration”). That “untrusted content” can come in all sorts of ways, ask it to read a web page, and an attacker can easily put instructions on the website in 1pt white-on-white font to trick the gullible LLM to obtain that private data. -->
 
-LLMはソフトウェアシステムの攻撃対象領域を大幅に広げてしまう。サイモン・ウィリソンはAIエージェントの「破滅の三要素」を唱えている。つまり、プライベートデータへのアクセス、信頼されていないコンテンツへの露出、外部と通信する手段（データ流出）を合わせ持ったAIエージェントである。「信頼されていないコンテンツ」はさまざまな形で現れる。たとえば、エージェントにウェブページを読み込ませたとき、そのページには攻撃者が白背景に1ptの白文字で指示を書き込んでいるかもしれない。そうすれば、LLMをだましてプライベートデータを引き出すことができる。
+LLMはソフトウェアシステムの攻撃対象領域を大幅に広げてしまう。サイモン・ウィリソンはAIエージェントの「[破滅の三要素](https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/)」を唱えている。つまり、プライベートデータへのアクセス、信頼されていないコンテンツへの露出、外部と通信する手段（データ流出）を合わせ持ったAIエージェントである。「信頼されていないコンテンツ」はさまざまな形で現れる。たとえば、エージェントにウェブページを読み込ませたとき、そのページには攻撃者が白背景に1ptの白文字で指示を書き込んでいるかもしれない。そうすれば、LLMをだましてプライベートデータを引き出すことができる。
 
 <!-- This is particularly serious when it comes to agents acting in a browser. Read an attacker’s web page, and it could trick the agent to go to your bank account in another tab and “buy you a present” by transferring your balance to the kind attacker. Willison’s view is that “the entire concept of an agentic browser extension is fatally flawed and cannot be built safely”. -->
 
-ブラウザで動作するエージェントの場合は深刻だ。攻撃者のウェブページを読み込んだエージェントは、別のタブで銀行口座にアクセスし、「プレゼントを買う」ために攻撃者の口座に送金するかもしれない。ウィリソンは「エージェント型のブラウザ拡張はコンセプトに致命的に欠陥があり、安全に構築することはできない」としている。
+ブラウザで動作するエージェントの場合は深刻だ。攻撃者のウェブページを読み込んだエージェントは、別のタブで銀行口座にアクセスし、「プレゼントを買う」ために攻撃者の口座に送金するかもしれない。[ウィリソンの見解](https://simonwillison.net/2025/Aug/25/agentic-browser-security/)は「エージェント型のブラウザ拡張はコンセプトに致命的に欠陥があり、安全に構築することはできない」である。