ised議事録

10-087. 倫理研第6回:共同討議第1部(4)

真のIT政府?――行政をビッグイットに委託する

白田:

白田秀彰
白田秀彰
 

 もう一点あります。いままでの話とずれてしまうのですが、ビッグイットが完璧に動作しないという点が、ひとつの批判対象になりました。「コンピュータは完璧に動作する」というイメージは、映画やSF的な想像力によるものだと思うんです。しかし、我々は実際のところ、コンピュータが完璧に動作しえないことや、問題の与えかたによっては暴走するということをよく知っているはずなんです。Windowsを使ったことのある人ならば、みなさん同意していただけるでしょう。つまり、ビッグイットのように非人格的で機械的なシステムは、問題が複雑であればあるほどあてにならないということも、我々の一般的な感覚として共有されているはずです。その意味で教育は完璧になされている。

 一方、国家というものを考えてみてください。ビッグイットに相当する、現在の国家というシステムは、ご存知のように人間が動かしている。さまざまなエラーは犯すし、無駄もたくさんあるという状態です。たとえば裁判にしても、誤審で殺されてしまった冤罪の人間も、山のようにいるはずです。むしろ場合によっては、意図的に冤罪がつくられた例もある。それでも我々には、あてにならない国家というシステムに個人情報を差し出し、その運用をまかせてきた長い歴史があるわけです。国家はことほどさように怪しいことがわかっているにも関わらず、法は「公務員は原則として誤りを犯さない」という公定力*1を認めています。公務員が行った判断は間違わない。国というのは絶対に誤らないという前提で、国家システムを動かしている。

 ここで考えてほしいのです。ビッグイットにせよ国家にせよ、私たちは社会における複雑性を縮減するシステムを要求しているとするならば、次のどちらがよりよいといえるのか。ひとつめは、基本的に正しく動かないはずのシステムを、教育によって「これは正しく動くものだ」と思い込ませて社会を維持する。つまり国家制度ですね。そしてもうひとつは、まともに動かない、エラーが起きることを国民がみんな承知しているようなシステム。つまり、ビッグイットですね。さて、エラーが起きることを前提して、そのシステムとどう折り合いをつけていくかと考えれば、後者のビッグイットのほうが実は健全なのではないか。逆にいえば、ビッグイットが動き出したとき、どこかの怪しげな教育機関が出てきて「ビッグイットは絶対に間違えません」といったとしても、我々にはすでにそれを信じないだけの感覚は持ち合わせているはずなんです。

東:

東浩紀
東浩紀
 たしかに、マザーコンピュータは絶対に間違えないという前提は、SFによくありますね。

白田:

 そうです。考えてみると、さまざまなSFのモチーフになった問題というのは、誤謬を犯すはずのものをそうではない、と言い続けるところから生じてきている場合が非常に多い。大雑把なところでは辻褄をあわせてくれるマザーコンピュータが存在しているとして、それでも「これはおかしい」というような問題が生じてきてしまったとき、人間がそこに介入して正そうとする。これは現実的に考えるとおかしな話ではない。現在の国家システムであっても、おかしい場合には裁判システムが動き出すことになっています。そして場合によってはそれがひっくり返るということもある。

 つまり私がいいたいのは、いまの議論の流れというのは、ビッグイットを使うからには「完全なオートマチックで動かさなければならない」と思われているのではないか、ということなんです。それはおかしい。

加野瀬

 そうすると、立法、行政、司法の3つのビッグイットに分かれますね。

白田:

 そうです。もしビッグイットのシステムが動き出して、公務員がほぼ全員いなくなるのであれば、そのほうがより効率的なのではないか(笑)。

鈴木:

 究極的なケースを考えることがおそらく重要だと思うんです。たとえば、戦争が起きる、暴君が支配する、といったケースです。この場合想定されるのは、コンピュータのデータを全部見られてしまう事態の発生でしょう。そこでの問題は、もともと想定されていた利用とは異なるかたちでデータが使われてしまいかねないということです。

鈴木健
鈴木健
 さらにいえば、コンピュータがデータをまるごと何千年も何万年も持ち続けられる、という性質それ自体が問題になる可能性がある。基本的に物理世界も実はたくさんの情報を残しているわけですよね。たとえば、机に手を置けば指紋が残る。ぬくもりが残っているから、2時間以内にここにいたことが分かる。ただし物理世界ではエントロピーの法則によって、その情報はすこしずつ消えていくわけです。しかし、コンピュータという人工的な環境においては、自然がもっていた「データの減衰性」自体が失われてしまう。いうなれば、究極的に摩擦がゼロの状況ができてしまったともいえる。このこと自体が問題なわけです。

 この問題をどうすればいいか。逆にデータを人工的に減衰させていく、消していくという技術が非常に重要になるんですよ。たとえばシルビオ・ゲゼルという人は、貨幣とは基本的に価値の減らない情報なので、利子をマイナスにする「減価通貨」というものを提唱しました*2。これは貨幣もモノと同じ性質にしてしまおうという発想ですね。これと同じような発想で、データ自体もどんどん消していくことを考えればいいのではないか。

東:

 あえて物理法則を実装する、というわけですね。ただ、ひとつ疑問なのは、それがマーケットで勝てるものなのかということです。その比喩で言えば、エントロピーがない宇宙とエントロピーがある宇宙が競争するということだけど、実際にはそういう競争が行われて結果的に後者が勝ったわけではない。「うちのデータストレージは自動減衰機能を実装しています」といっても、それははたしてマーケットの競争を勝ち抜けるのか。そんなサービスは誰も使わないのではないか。

高木:

高木浩光
高木浩光
 最近の個人情報をめぐる世界では、消えていくメディアというのはひとつのテーマとしてありますね。

白田:

 その情報の減衰ということに関して、逆に論を張ってみたいと思います。いままで世界における統治のイメージは、いま暴君という言葉が出てきたように、人格的な存在、つまり自然人が担うと想定されてきました。たとえばヒトラーのような人物が出てきて、データを悪用するというように。ただ、ここで単一の人間によって悪用されるということは、すなわち国家制度をひとりの人間が処理できる範囲に無理に単純化していたということです。近代というのは、画一的な人間や国家制度をつくることによって、たったひとりの人間でも、国という非常に広大な複雑性をもったものを統治できるシステムを形成していた。つまり、人間の身の丈にあわせた制度設計だったといえます。

 ここで、新たにビッグイットにすべてのデータを残し、複雑性を複雑性のまま機械的に処理してしまう統治システムを考えてみます。もちろんデータはすべて残っているわけですが、ここで独裁者のような人間が出てきても、ビッグイットはもはや人間の頭脳では処理できないほどの複雑性を処理しているわけです。そのような状況では、もはや独裁者の存在自体が不可能になるのではないか。

 つまり、いままでの私たちの社会は、単純な制度で複雑性を縮減することによって、大きな領域をひとりの人間がコントロールできるようにしてきました。しかし、これはもう止めてもいい。すなわち、複雑なものを複雑なまま機械で処理し、誰か人間がそれを意図的に支配しようとしても、それが不可能なほどに複雑なままにしておけばよいのではないか。

東:

 実際インターネットはそうなっている。ビッグイットもそのイメージでしょう。十分にありうる話だと思います。

白田:

 ええ、ついに独裁者が現われることのない社会状況が到来しつつあるのではないか、という気もするんです。

小倉:

小倉秀夫
小倉秀夫
 結局ビッグイットは、ある一定のアルゴリズムに基づいて判断を下すわけですよね。そのアルゴリズムを組み立てるのは誰かがやらざるをえないわけですから、そこは問題ですね。

加野瀬

 たしかに、プログラマー独裁者になれるのではないか。

東:

 その問いかけはよくわかります。しかし、ウェブは別にティム・バーナーズ・リー*3W3Cに支配されているわけではない。

白田:

 人間による支配と、プログラムによる支配とでは絶対的な違いがあると思うんです。まず、人間による支配は事前予測が不可能です。たとえば情実をきかせる、袖の下をもらう、ということが多々ある。しかもそれは証拠を残さない限り、事後検証もできないわけです。ところが、プログラムでなにか変なことをした場合には、それはすべて残ってしまう。それこそオープンソースのような方法を取れば、「誰がいかなる意図でこの行を書き込んだのか」が分かるんですよ。そうしておけば、問題が発生したときも、その行を消すことによって対応できる。このように、事前予測も事後検証もできるわけです。つまり、現在の人治であれば事前予測も事後検証も非常に困難だけれども、プログラムによる支配であれば、それも比較的容易になるだろうというわけです。となると、次善の理論を取るという発想ならば、ビッグイットのほうがいいのではないか。

加野瀬

 「この法律を書き込んだのはこの人」というように、誰がなにをやったのかがわかる、というわけですね。

白田:

 証拠が全部残るわけです。プログラムで処理しようとすれば、全部残さなければならないし、どこかに残ってしまう。

小倉:

 それでは、たとえば政府機関の代わりにビッグイットを使うケースとして、裁判機械というのを考えてみましょう。原告と被告側で、それぞれありったけの情報を入れて、それが終わると結論が出てくる。アルゴリズムはいままでの裁判例の流れをもとに組み立てるとします。この方法で裁判をする場合、誤審の可能性を検証するためには、プログラムのアルゴリズム、およびそれを実装するためのプログラムの当否というのを検討していかなければならないわけです。そのプログラム自体は、あらゆる場面を想定して巨大なプログラムが使われている。そのプログラムの間違い、その間違いゆえに誤審が生じたことを立証するためには、弁護人はそのトータルなアルゴリズムをすべて検証しなくてはいけない。これは、あまりにも負担が大きすぎるのではないでしょうか。

加野瀬

 それこそ把握できない感じがしますね。

鈴木:

鈴木健
鈴木健
 はたして不可能でしょうか。プログラマーは、それをデバッグというかたちでやっていると思うんです。何万行何百万行何千万行とあるプログラムであっても、いまでもプログラマーはデバッグしている。

白田:

 裁判機械はたしかにまずいんです。第5世代コンピュータでやられていたものですね*4

 ただ反論しますとね、いま私たちは普通に本を読んで字を書いていますが、これは200年前まではとんでもない技術だったわけです。けれども、私たちはこの技術を規律訓練によって習得したわけです。ですから法律家全員がプログラムを読むというのは、「まさかそんな」と思われるかもしれないけれども、英語を教えるよりもよほど楽に実現できるのではないか。日本語を読む能力にしても、すごく複雑な文章を読み書きすることができる人がいる一方で、なかには「大丈夫かお前」みたいなリテラシーの低い人もいるわけですよね。これと同じような意味で、やはりプログラムを読める人もいるば、読めない人もいると思うんです。弁護士のように非常に大変な試験をクリアして、法律を扱うオペレーションをする人々がいるように、巨大なシステムのデバッグに関する資格を設けて、それが専門職として成立するというのはありえない話ではない。

 現代国家の基本的な構造は、みなさんご存知のように立法・司法・行政の三権分立といわれています。これは近代に入って制定されたものです。この時、近代はどのようなシステムを想定していたのか。それは立法者がプログラミングし、それを行政がマシンとして実行するようなシステムなんですよ。つまり、この原則でいけば、行政官は裁量で動いてはいけないことになっている。「法律による行政の原理」というものがありますが、これは立法府が制定したものを馬鹿正直に実行するよう公務員に要求するシステムだったんです。ただ現場においては、やはりさまざまな不確定要素がありますから、行政官にある程度裁量の幅を持たせようということになる。そして、この行政がやったことが国民に振りかかってくるわけです。それにはいい政治もあるし悪い政治もあるでしょう。これに関して国民は、「こんなことじゃ困る」と立法府に訴えて、場合によっては司法の判断を仰ぐこともある。

 もはや私がなにをいいたいのか、みなさんおわかりかとは思います。つまり行政というシステムは、もともとマシンであることを要求されていた。そして、ようやくビッグイットというマシンが出てきた。であるならば、この行政の部分は機械化してもいいのではないか。ただ、立法と司法に関しては、近代においても人間的な判断を下すことを前提にしているわけですから、そのままでいいと思います。

辻:

辻大介
辻大介
 しかし、行政の部分を機械にまかせてしまうと、それは白田さんが問題視されていた、「法の完全実行」が可能になるということではないですか?

白田:

 なるほど! おっしゃるとおりです。

東:

 行政を機械にまかせるという議論ですね。聴衆によってはずいぶんとSF的な世界に突入してきたと感じるかもしれませんが(笑)、しかしそれほどSF的な話でもない。たとえば国勢調査を手作業でやるのはばかげている。それこそ新生児に最初から統一IDカードを持たせて、都市空間のあちこちにそのIDを認識する装置を埋め込んでしまったほうが早い。それを50年くらい続ければ、誰がどこに住み、いくらぐらいの年収をもっているかという基本的な情報をつねに行政が把握することができる社会が到来する。つねにリアルタイムの国勢調査がなされているといってもいい。これは行政のマシン化のひとつの例ですが、こういう流れは絶対に現実化するでしょう。行政サービスのほとんどは、社会保険にせよ年金にせよ、基本的な情報をリアルタイムで把握することによってはるかに効率化できる。そして、もともと手作業で情報を集めていたのだから、機械でやってなにが悪いということになるに決まっている。

白田:

 そう、行政のほとんどが、そのような管理業務ですよね。さらにいえば、実は中央官庁で政策決定していることがそもそもの間違いなんです。政策決定は立法府がやるべき仕事であって、官庁が関わるべきではない。官庁は、ただ立法府が決定したことを機械的に実行するべきです。近代のモデルたる三権分立ではそうなっているわけですから。

東:

東浩紀
東浩紀
 予算管理も機械化すればいいでしょうね。

白田:

 そうなんです。いまの仕組みでは、役人がみなさんの出した申請書類を読んでいる。こちらのほうがよほど問題であって、そこから不正が発生しているわけですよ。たしかに、立法のような私たちの将来を決定する判断は、人間にまかせなければならないでしょう。エラーが起きたときに、どうリカバリーするのかという司法的な問題も、人間がやらなければならないでしょう。ただし、近代のモデルはもともと行政の部分を機械的にやる前提でつくってきた。であるならば、これを機械化することに関して、本質的に問題はないのです。おそらく役人のみなさんは相当猛反対するでしょう。しかし、いま起きているさまざまな国家における問題は、役人がへたに情報をもっていて、いつのまにか立法府の判断を超えるようなことをやっているからではないか。

東:

 白田さんの提案は、具体的には国民統一IDシステムを必要としますね。たとえば僕に子供が生まれると、コンピュータに入っている僕に関するさまざまな情報、年収や年齢や年金の支払状況などをもとに、特別に申し込まなくとも「保育園の順番は何番」と計算される。転居したとしても、その順番がそのままコピーされて計算され、また自動的に順番が決まる、といったような世界。

 保育園問題に限らずとも、全体的にいまの行政サービスとは、そもそもどのサービスがどこで提供されているのか、かなりわかりにくい。だから現状では、保育園にいつ申し込むのが得か、といったような噂話が横行する。しかし、すべてを機械化すればそういうことはなくなる。国民の基本的な情報をたえず機械的に処理し、どのような行政サービスがだれにとって適切なのか、常にリアルタイムで算出し続ける行政装置を実現することができる。

白田:

 そして国会において政策を議論することは、すなわちどのプログラムのどの行を書き換えればいいかを議論することになるわけです。たとえば税率調整だと、パーセントをどの程度書き換えればよいか、というイメージですね。つまり国会議員が全員揃ってハイパープログラマーになり、日本国オペレーション・システムの改善を議論する場所が国会になるのではないか。

東:

 たとえば消費税率を何%に変えるかという場合も、政府のウェブページにアクセスして自分のIDを入力すると、今年の税負担は現在の税制ではいくらで、新しい税制ではいくらになる、という正確な予測値が出る。これぞ本当のIT政府という感じもしますね(笑)。

高木:

 それを全員が自分で見れば、自分はこの政策で得をするか損をするか、完全に分かるようになります。つまりわざわざ投票しなくとも、自動的にどちらの政策がよいか、決着することができるようになる。

白田:

 そうすると、国会は本当に火を散らすような論戦になるのではないか。

東:

東浩紀
東浩紀
 いや、むしろ論戦にはならないのではないか。

 ここからは逆にそのスーパーIT政府への疑問になるけれど、そういう社会では多くの政策決定が純粋に多数決になってしまう気もする。つまり、ほとんどイデオロギーがなくなる。その社会では、総務省かどこかのウェブページに自分のIDを打ち込むと、いずれの政策についても、「自分はどれくらい得をするのか」という数値が具体的に出てくるわけですよね。となると、結局その得をする人数の割合がすべてになる。国民の3割くらいしか得をしない場合は通らないだろう。しかし5割を超えてくると通る、というように。動物的な政策決定システムと言ってもいい。

高木:

 最初から完璧な政策が立てられることになれば、投票もいらない世界になる。

白田:

 ただ、それこそまさに人間の限定合理性の問題が出てきそうですね。

鈴木:

鈴木健
鈴木健
 しかし、そこまで未来を予測できるとすれば、それはもはやSFになってしまうわけですよ。未来の経済の法則はまだ分からないわけです。

東:

 いや、そういう話ではないでしょう。消費税が何%になって、所得税の税率をこれくらい下げたら、どれくらいの税負担になるのか、というシミュレーション自体はかなり精度の高い数値をはじき出すに違いないでしょう。たとえば僕の去年の年収と支出は、確定申告で出しているわけです。確定申告をしていれば、そのデータをもとにある程度は算出できますよね。

鈴木:

 しかし、5年後の経済予測はわからない。

東:

 そうではなくて、たとえばいま新聞が出している情報というのは、「30歳・年収600万・子供2人」というような平均像に過ぎないわけです。それよりはもっとよくなるという話ですよ。

白田:

 たしかに、それよりはマシになるでしょう。いま鈴木さんがおっしゃったのは、消費税が変動したことによって、それが経済にどのような影響を与えるのかは予測できない、という話ですね。

東:

東浩紀
東浩紀
 ああ、それはできない。複雑系的な話になってしまうからね。

白田:

 そうですよね。まさに限定合理性や複雑性の問題があるわけです。ですから、私は政策立案の部分と司法の部分は機械化したらまずいと思う。ただ、繰り返しになりますが、統計処理や富の再分配のような部分は、いまでも相当程度の不合理や不正があるわけですから、それに比べたらビッグイットのほうがまだマシでしょう。

*1:註:行政行為 - Wikipediaより引用:『行政行為は、たとえ違法であっても、権限ある国家機関(行政庁または裁判所)がこれを取り消さない限り、一応有効なものとして取り扱われる効力』

*2:註:シルビオ・ゲゼル「自然的経済秩序」岩田憲明・廣田裕之訳(シルビオ・ゲゼル研究室)の「 4-1 自由貨幣」参照のこと。貨幣価値が自動的に減衰することによって、貨幣の流通速度を加速させることを目的とした。

*3:註:Tim Berners-Lee

*4:註:非ノイマン型コンピュータによる法的推論の実験が行われた。以下のプロジェクトなどを参照のこと。→法律エキスパートシステムプロジェクト

トラックバック - http://ised-glocom.g.hatena.ne.jp/ised/10071008