あらゆる企業がAIゴールドラッシュに参入しようと躍起になっているようです。クローガーのCEOが乳製品売り場に法学修士課程を導入すると約束したことからもそれが分かります。そして、現場の従業員たちもそれに倣い、AIの導入を試行錯誤し、より速く、より多くの成果を上げられるよう取り組んでいます。

ChatGPTがデビューしてからわずか数ヶ月で、数百ものAI搭載ツールが市場に登場しました。しかし、AIベースのツールは真に役立つ用途を持つ一方で、深刻なセキュリティリスクも伴います。残念ながら、ほとんどの企業は未だにこれらのリスクを管理するためのポリシーを策定できていません。責任あるAIの利用に関する明確なガイドラインがないため、従業員は信頼できないツールに機密データを安易に渡してしまうのです。 

AIベースのブラウザ拡張機能は、この現象を最も明確に示しています。Chromeストアには、ChatGPTを利用してメールの編集、グラフィックのデザイン、会議の書き起こし、コードの作成など、あらゆるタスクを実行する（と主張する）拡張機能が溢れています。しかし、これらのツールには少なくとも3種類のリスクが伴います。

1. マルウェア：セキュリティ研究者は、ユーザーデータを盗むAIベースの拡張機能を次々と発見しています。これらの拡張機能は、大手テクノロジープラットフォームに対するユーザーの信頼（「GoogleがChromeストアで許可しているなら危険ではない！」）につけ込み、ChatGPTなどのAPIに接続することで機能しているように見えることがよくあります。 
2. データ ガバナンス: Apple や Verizon などの企業は、LLM 製品がユーザーの入力がトレーニング データとして使用されないことを保証することはほとんどないため、従業員による LLM の使用を禁止しています。
3. プロンプト インジェクション攻撃: このあまり知られていないが解決不可能な可能性のある攻撃では、Web ページ上の隠しテキストが AI ツールに指示を出し、データを盗み出してから記録を削除するなどの悪意のあるアクションを実行します。 

これまで、ほとんどの企業は AI に不意を突かれてきましたが、これらのリスクは無視できないほど深刻です。 

Kolide では、AI の使用を管理するために 2 つのアプローチを採用しています。

1. チームとしてAIポリシーを策定します。チームによるAIの使用を完全に禁止するのではなく、安全に使用したいだけです。そのため、最初のステップは、複数のチームの代表者と面談し、AIベースのツールから何を得ているのか、そして重要なデータやインフラを危険にさらさない安全な選択肢をどのように提供できるのかを把握することです。
2. Kolide を使って悪意のあるツールをブロックしましょう。Kolide を使用すると、IT チームとセキュリティチームはデバイスのコンプライアンス問題を検出するチェックを作成できます。また、悪意のある（または疑わしい）AI ベースのツールに対するチェックの作成も既に開始しています。従業員が誤ってマルウェアをダウンロードした場合、マルウェアを削除するまでクラウドアプリにログインできなくなります。

各企業は独自のニーズと懸念事項に基づいてポリシーを策定する必要がありますが、重要なのは今すぐ始めることです。AIが企業のデータを奪い去ってしまう前に、AIの支配権を掌握する時間はまだあります。

Kolide が Okta を使用して企業のデバイス コンプライアンスを強化する方法の詳細については、ここをクリックしてオンデマンド デモをご覧ください。

今週の MacStories をスポンサーしていただいた Kolide に感謝します。