画像は本物であり、研究の一部です

Amazonが最近17億ドルで買収したロボット掃除機の世界最大のサプライヤーであるiRobotは、リークされた映像が2020年6月から11月の間に米国、日本、フランス、ドイツ、スペインでルンバによってキャプチャされたことを確認しました.

同社によると、写真はすべて「販売されているiRobot製品には決して見られなかったハードウェアとソフトウェアの変更を加えた特別な開発ロボット」のものである、と同社は声明で述べた。

伝えられるところによると、機器は、ロボット掃除機を改善する目的でビデオを含むデータを会社に返却することを認める書面による合意に署名した「コレクターと有給の従業員」に与えられました。

iRobot によると、デバイスには「ビデオ録画中」と書かれた緑色のステッカーが貼られており、デバイスの所有者は誰でも、「子供を含め、ロボットが動作するあらゆる場所から、機密性が高いと思われるものをすべて取り除く」必要がありました。

契約違反

iRobot はさらに、Scale AI 社と 200 万枚以上の画像を共有し、他のデータ注釈プラットフォームとは不明な量の画像を共有したと述べました。

iRobot の広報担当 James Baussmann 氏は、同社は「個人データが法律に従って安全に取り扱われるようにあらゆる予防措置を講じている」と述べ、MIT ポータル Technology Review で共有された画像は秘密保持契約に違反していると述べました。 iRobot と画像注釈サービス プロバイダーの間。

また、iRobot によると、同社は画像を漏えいしたサービス プロバイダーとの契約を終了し、問題を調査しており、今後サービス プロバイダーによる同様の漏えいを防ぐための措置を講じています。

同社はさらに、ソーシャル メディア グループで画像を共有することは Scale との契約に違反すると述べた。 Scale は、これらの画像を共有している請負業者も契約に違反していると主張しています。

ロボット掃除機の仕組み

最も基本的なロボット掃除機モデルはオブジェクト センサーで動作しますが、中型の掃除機にはより優れたセンサーと、同時ロケーションとマッピングなどの他のナビゲーション技術が組み込まれており、環境内の自分の場所を見つけて、より適切な掃除経路を描きます。

次世代デバイスは、コンピューター ビジョンを使用します。これは、アルゴリズムをトレーニングして画像やビデオから情報を抽出することによって人間の視覚に近づける人工知能のサブセットであり、検出に基づく技術です。 ナサ最も正確なナビゲーション技術と考えられています。

コンピューター ビジョンは高解像度カメラに依存しており、多くの企業がナビゲーションと物体認識のためにロボット掃除機に前面カメラを組み込んでいます。

しかし、これらのデバイスのコンピューター ビジョンが意図したとおりに機能するためには、製造業者は、さまざまな視覚情報を反映する多様で高品質なデータ セットを使用してコンピューター ビジョンをトレーニングする必要があります。 「家庭環境の多様性は非常に難しい課題です」と、北京を拠点とする Roborock の R&D シニア ディレクターである Wu Erqi 氏は述べています。

データ収集

iRobot の場合、画像データセットの 95% 以上が実際の住宅からのものであり、居住者は iRobot の従業員またはサードパーティのデータ プロバイダーによって募集されたボランティアです。

iRobot の声明によると、開発中のデバイスを使用している人々は、多くの場合「参加するインセンティブ」と引き換えに、デバイスの実行中にビデオ フィードを含むデータを iRobot が収集することに同意しています。 同社は、これらのインセンティブが何であるかを特定することを拒否し、「データ収集の長さと複雑さに応じて」変化するとだけ述べた.

iRobot はまた、アプリを通じてトレーニング データを提供するためにサインアップするオプションを消費者に提供し始めました。ユーザーはサインアップして、同社のサーバーに障害物の特定の画像をアップロードし、アルゴリズムを改善することができます。 iRobot によると、顧客がこの「ユーザー・イン・ザ・ループ」トレーニングに参加した場合、知られているように、会社は特定の画像のみを受け取り、他の画像は受け取りません。

プライバシー侵害

専門家によると、ロボット掃除機によって収集されたデータは非常に侵襲的である可能性があります。 それらは、いつの日か掃除機をかけることをはるかに超える目的を持つ、よりスマートなロボットを構築するために使用されています。 しかし、これらのデータセットを機械学習に役立つものにするために、人間はまずデータの各ビットを視覚化し、分類し、ラベルを付け、コンテキストを追加する必要があります — データ注釈と呼ばれるプロセス (これには、全体を見ている人が含まれます)。ルーティーン）。

iRobot は、トレーニング画像のサブセットのみをデータ注釈パートナーと共有し、機密情報を含む画像にフラグを立て、機密情報が検出された場合は企業のプライバシー担当者に通知すると述べています。 同社の広報担当者は、最近の画像リークを「まれな」状況と呼んだ.

「ユーザーがヌード、部分的なヌード、または性的相互作用を含む妥協的な立場にある画像は、その記録の他のすべての画像に加えて削除されます。」 しかし彼は、このフラグ付けがアルゴリズムによって自動的に行われたのか、人によって手動で行われたのか、また流出したバスルームに女性が写っている画像の場合、なぜフラグが立てられなかったのかについては説明しなかった。

驚き: あなたは受け入れたかもしれません

iRobot は MIT Technology Review に対し、暗号化の使用、セキュリティ脆弱性の定期的なパッチ適用、調整と監視など、顧客のデバイスのプライバシーとセキュリティを保護するための対策を講じていると語った。収集するデータに関する情報。

しかし、企業がプライバシーについて語る方法と、消費者がそれを理解する方法との間には大きな隔たりがあります。

「多くのプライバシー ポリシーには、『当社は特定のパートナーまたはサービス プロバイダーとデータを共有する権利を留保します』と記載されています」と Brookman 氏は説明します。 これは、消費者が知っているかどうかにかかわらず、自分のデータが他の企業と共有されることに同意する可能性が高いことを意味します。