監視、分析、予測、管理……

「セーフシティ」、アルゴリズムに統治される都市


フェリックス・トレゲ(Félix Tréguer)

研究者、La Quadrature du Netメンバー


訳:福井睦美


 ビッグデータとAIを基盤にした社会監視ツールがフランスの都市にも広がりつつある。国はデータ収集分析と映像自動解析の先端技術分野における国内企業の育成を目ざし、地方自治体は民間企業グループと組んで実証実験を重ねている。アルゴリズムに統治される未来の都市像がはっきりと見えてきた。[日本語版編集部]

(仏語版2019年6月号より)

THE EYE Nº 00001"THE EYE Nº 00001" by Cosme Verdugo



 1948年12月28日、論理学者ドミニク・デュバルルは、アメリカで第二次大戦中に開発された新しい計算機についての最初期となる記事をル・モンド紙に掲載した。彼は当初から、のちにコンピュータ科学と呼ばれるようになる領域の政治的影響を予想しようとしている。サイバネティックスは黎明期だったし、監視資本主義はまだ話題にもなっていなかったが、彼は将来このテクノロジーが「統治用マシン」になるだろうと気づいていた(1)。「これこれについての情報、例えば産出高と市場の情報を集め、人間の平均的な心理と、ある時期に取りうる行動とに照らし合わせ、一番進展しそうな状況はどんなものかを割り出すようなマシンを想像することはできないでしょうか」、と彼は書いている。そして格納容量の増加と情報処理能力の発達につれコンピュータ科学は「驚くべき政治的レヴィアタン[旧約聖書に登場する海中の怪物]の出現」を導くだろう、と予言した。

 それから70年後の現在、「スマートシティ」プロジェクトは世界中に広がっている。アメリカ、中国、湾岸諸国、英国に続いてフランスでも大企業グループが、テクノロジーによる解決策を信奉する地方政治家と手を組んでこの市場に参入している(2)。デュバルルの予言に追随するように、彼らは都市の公共空間にコンピュータツールを次々と設置し、人間と商品の流れを監視し、分析し、予測し、そして統制しようとしている。都市行政はアルゴリズムによる統治時代に移行しつつある。そして、データ開示や街灯とゴミ箱の「インテリジェントな」管理といったイニシアチブを除くと、「スマートシティ」はとりわけその治安面に重点が置かれている。そのため業界では「セーフシティ」と呼ぶようになっているほどだ。

 「スマートシティ」プロジェクトに関する行政文書を検証すると、都市ガバナンスと軍事界の理論との間に共通点があることがわかる。2018年6月、ニース市はターレス社の主導する15の民間企業コンソーシアムと実験協定を結んだが、それは「地球上では急速に都市化現象が進んでいる」との認識から出発したものだ。この協定は、気候変動と関連づけられる「自然リスク」と「人的リスク」(犯罪、テロ活動など)を同一次元に位置づけ、「ますます深刻化している脅威」としている。だがそこでは、これらの現象がもらたす経済、社会、政治的影響も、ましてやそれらへの対策も考慮されていない。何よりもまず重要なのは「個々の状況を精査してそこから起きうるトラブルや危機を予測」し、「脆弱点」を見つけ出して「計画策定を支援」し、「シナリオを基にした予測」を提供することだ。これらすべては一カ所の「ハイパービジョンおよび指令センター」に「集積された最大限のデータ」を活用することによる「リアルタイム管理」の一環として遂行される(3)

 このようにして「リスク」は行政機関がその影響を統制するだけですむ状態まで縮小される。「セーフシティ」の立案者にとって、警察は18世紀に理論化された機能、つまり市民についての情報を集め、それに基づいて彼らの行動を誘導し、彼らの忠実さと生産性を確保するという任務に立ち戻る。新しいのは、届こうにも届かない「公序良俗を保つ」という目的を断念していることだ。今の警察は混乱を制御することだけで良しとしている。テクノクラートたちは、技術的進歩によって混沌の中にある種の統計的特徴や規則性を見つけられると信じている。それを分類整理して相関付け、ついには予測や予防に使い、先回りして狙いをつける。しかも必要になれば標的を定め、抑圧行動にでることすらできると考えているのだ。

 この目的のため、「セーフシティ」は二種類の重要な技術革新を柱にしている。一つは「警察ファイル」やソーシャルメディアを主としたインターネットから拾い集める個人情報など、様々なデータを収集し分析する技術だ。これらから統計を作成し、予測型警察活動における意思決定を支援する。大規模諜報機関が10年前から実験的に使用していた各種の監視ツールは、警察活動全般にも一般化していく……。

 マルセイユ市では、2017年11月からエンジー・イネオ社に委託した公共秩序に関わるビッグデータ監視所プロジェクトが進められている。このプロジェクトは、自治体の公共サービス(警察、公共交通機関、病院など)を始め、大量の記録ファイルや統計データを収集している内務省、リアルタイムで「人の流れ」を地図表示できる携帯電話の位置情報を持つテレコム各社など「外部パートナー」からのデータも統合することを目ざしている。

表情の検知

 一方、一般市民も「スマホのアプリやIOT(モノのインターネット)」を介して直接データ(テキストメッセージ、ビデオ、写真、移動速度、ストレスの度合いなど)の提供を求められるようになる。ツイッターやフェイスブックなどのソーシャルメディア上の会話も監視される。その目的は「町の治安に関わる話題の記事を収集する」、「脅威を予測する」、「ツイートの分析によって危険な集会が開かれるおそれ」を推測する、あるいは「誰が投稿し、誰がそれに反応し、誰と誰がやりとりしている」かを割り出して「首謀者の特定」を進めることなどだ(4)。マルセイユ市はこれらの膨大な量のデータを格納し処理するためにオラクル社から複数のサーバを購入した。その容量は600テラバイトで、フランス国立図書館のインタネットアーカイブ政策の規模に相当する。

 「セーフシティ」の第二の柱は大量の監視カメラ映像の自動解析技術だ。2007年以来、国と地方自治体はカメラの購入に何百万ユーロも投資したが、その成果はほとんど出ていない(5)。それなのに、自動解析技術は素晴らしい結果を約束しており、しかも解析のための公務員を雇用する必要もない、というのだ。「インテリジェントな」監視カメラプロジェクトはトゥールーズ市、ニース市、マルセイユ市、ヴァレンシエンヌ市、パリ市のほか、ガール県とイヴリーヌ県でも実施されている。

 ニース市長のクリスチァン・エストロジ氏はこれらのテクノロジーの持つ潜在能力を最も熱心に支持する政治指導者の一人だ。2018年12月、エストロジ市長はプロヴァンス=アルプ=コートダジュール地域圏議会で、アメリカのシスコ社と共同で域内の2つの高等学校に顔認識ゲートをテスト設置する許可を取り付けた。設置の目的は、生徒の登下校を監視することだった。今年3月のニースのカーニバル祭でも同様のツールの実証実験が行われていた。

 他の自治体と同様、ニースでも監視カメラと感情検知アルゴリズムの併用を計画している。市の幹部はこれらの技術を路面電車へ配備するプロジェクトをスタートアップ企業Two-i社に委託した。同社はナンシー市とメス市では社会住宅整備管理会社と協力し、公営住宅の住民の心情調査を行っている。リヨン市近郊のイリニー地区では、軍警察はTwo-i社の競合企業、DCコミュニケーション社を選択し、署を訪れる市民の「精神状態」を分析している。これら「ニューロマーケティング」に由来するツールは顔の表情から喜び、悲しみ、恐怖、軽蔑などを検知する。「次にアルゴリズムがそれらの感情を測定し、一番頻繁に現れているものを抽出します」、とDCコミュニケーションの創設者で予備役警官のレミ・ミルカン氏は説明する。

 「インテリジェント」監視カメラの潜在的利用価値は高いだろうが、自動的な人物特定や不審挙動の抽出が優先課題だ。2018年6月、治安維持の基本原則に関するスピーチの中でジェラール・コロン元内務長官は、間もなく人工知能ツールが「群衆の中から行動が不審な個人を検知」できるようなると発表した。「黄色いベスト」運動への対応策として政府が採択した反デモ法についての議論に際して、昨冬再びフランス議会にこのアイデアが持ち出された。共和党議員らは修正案(最終的には否決された)の中で「デモ隊内の危険人物の特定」を自動化するために監視カメラ映像とさまざまな記録ファイルとの照合の合法化を試みた。危険と判断されている政治活動家やテロ活動の疑いがある人物を発見するだけでなく、生体認証データファイル(特に移民関連のファイルや、2016年以降身分証明書およびパスポート申請者全員のデータを集積している電子身分証明書)の増加は益々幅広いカテゴリでの顔認証の急速な拡大を可能にしている(6)

 これらの社会監視技術の活用においてヨーロッパの最先端にいるのは英国とフランスだ。2016年、フランス諜報機関はデータ分析ツールをアメリカのパランティア社から購入せざるを得なかったが、治安系ビックデータに関するトップ企業を国内で育成することが政府の優先課題のようだ。「セーフシティ」プロジェクトは、エンジー・イネオ社のような公益企業や、タレース社のような治安防衛企業がこの新しい市場でアメリカや中国企業と競合できるように育ててくれる。フランス政府はこれら2つの主要グループの最大株主(エンジー・イネオ社の株式の23.6%、ターレス社の25.8%、および両社で3分の1以上の議決権を保有)としてそれを後押ししている。

 プロジェクトのスポンサー組織以外にも、数多くの公共組織がその発展に関与している。この観点から、ニース市でのタレース社の「セーフシティ」プロジェクトは象徴的だ。政府と民間セクターのインターフェースである安全保障産業委員会(CoFIS)が特定したテーマ軸に沿って設計されたニース市のプロジェクトは、同委員会が発行する認証ラベルを取得している。3年間の総費用は2,500万ユーロで、未来のための投資プログラムの名目で、公共投資銀行(Bpifrance)が総額1,100万ユーロの補助金と貸付金を供与した。そして、ここで提案された複数の技術は、民間企業とフランス国立情報学自動制御研究所(Inria)などの公的組織が提携する研究プロジェクトのおかげで、フランス国立研究機構(ANR)やEUの資金提供を受け開発された。

 「セーフシティ」の現場でも、治安政策にはかつてないほどの民営化が進んでいる。アルゴリズムを制御するパラメータはほぼ確実に企業機密に属すにもかかわらず、技術的専門知識は完全に民間業者の手にゆだねられている。私的生活尊重権や表現と信教の自由との適合性は明らかに問題視されてはいるものの、今のところ法律面からの深い分析は行われていない。当面、関連企業の法務担当者だけが、2018年に改訂されたがすでに時代後れになっている現行法に準拠しているかどうかに一応の注意を払っている。だが、特定の地域での警察活動の強化、すでに差別されている人々への差別の深刻化、社会運動の抑圧など、このようなプロジェクト展開がもたらす政治的影響がはっきりしてきた。そしてこれらはもちろん、プロジェクトの推進者たちが決して口にしなかった事柄だ。

 情報処理および自由に関する国家委員会(CNIL)はこれに関して無策の自由放任主義を貫いている。資金不足もあり、もとより個人データ保護に関するヨーロッパ規制により決定権を奪われていることも理由に、「適切な枠組みを規定する」ための「民主的な討論」を促すに留まっている(7)。委員会はまたそこで、具体的な法的枠組みが全くないことを認めている。それは欧州人権裁判所の法解釈によると、これらのプロジェクトの純然たる違法性を証明するのに十分だ。政府は2020年に諜報に関する法改正を予定しているが、その法文を通じて現在行われている実証実験を合法化し、警察による監視体制を一般化しようとするかもしれない。市民運動がそれを抑止できない限りは。



  • (1) ショシャナ・ズボフ「監視資本主義」ル・モンド・ディプロマティーク日本語版(2019年5月号)参照
  • (2) Cf. Evgeny Morozov, Pour tout résoudre, cliquez ici. L’aberration du solutionnisme technologique, FYP Éditions, Limoges, 2014.
  • (3) « Convention d’expérimentation, de mise à disposition et de démonstration. Projet d’expérimentation “Safe City” » (PDF), 2018.
  • (4) « Création d’un outil big data de la tranquillité publique et prestations d’accompagnement (2 lots). Cahier des clauses techniques particulières (CCTP) » (PDF), délégation générale adjointe du numérique et des systèmes d’information de la ville de Marseille.
  • (5) Cf. Laurent Mucchielli, Vous êtes filmés ! Enquête sur le bluff de la vidéosurveillance, Armand Colin, Malakoff, 2018.
  • (6) フランソワ・ペレグリーニ、アンドレ・ヴィタリス「個人認証データ管理に潜むリスク」ル・モンド・ディプロマティーク日本語版(2018年6月号)参照
  • (7) « La CNIL appelle à la tenue d’un débat démocratique sur les nouveaux usages des caméras vidéo », CNIL, Paris, 19 septembre 2018.

(ル・モンド・ディプロマティーク 仏語版2019年6月号より)