「私たちは永遠に不変ではなく、自らのパターンを継続している。パターンとは情報である。」
「情報は決して啓発を置き換えることはできない」とスーザン・ソンタグは「言葉の良心」を考慮しながら断言した。「言葉は出来事であり、何かを行い、何かを変える」とアーシュラ・K・ル＝グウィンは同時期に真の人間のコミュニケーションの魔力について詳細に考察した。「それら（言語）は話し手と聞き手を変える。それらはエネルギーを繰り返しフィードバックし、それを増幅する。それらは理解や感情を行き来させ、それを増幅する。」しかし、言語が人間性を奪われ、無情な機械に入力され、もはや啓発されない情報通貨として使用されるとき、何が起こるのだろうか？
アルゴリズムの黄金時代の半世紀前、インターネットが誕生する 20 年前、数学者で哲学者のノーバート・ウィーナー（1894 年 11 月 26 日 - 1964 年 3 月 18 日）は、1950 年に出版された洞察に満ちた先見の明を持つ著作『人間の人間の利用：サイバネティックスと社会』（The Human Use of Human Beings: Cybernetics and Society）で、私たちをこの仮定の影響から守ろうとした。ウィーナーはこの本が「個人間および個人内部のコミュニケーションの限界」に焦点を当てていると述べ、この本は世代を超えて思想家、創造者、起業家に影響を与え、著名な作家カート・ヴォネガット、文化人類学者メアリー・キャサリン・ベイツン、バーチャルリアリティの先駆者ジャロン・ラニエに深い影響を与えた。
ウィーナーは 2 年前に「サイバネティックス」という言葉を創造し、因果関係の新しい考え方と、システム内部のフィードバックループがシステム自体をどのように変えるかを開拓した。（今日のソーシャルメディアのエコシステムは、浅薄だが非常に示唆に富む例である。）
ハンナ・アーレントの暴君が隔離を抑圧と操作の武器として使用するという同時代の洞察を補完する形で、ウィーナーはこの情報システムモデルの下で、コミュニケーションとコントロールが不可避に結びついている理由を説明した：
情報という名称の内容は、私たちが外界を調整し、その調整を外界に理解させるときに外界と交換するものです。情報を受け取り、使用するプロセスは、私たちが外界環境のさまざまな偶然性を調整し、その環境の中で効果的に生きるプロセスです。現代生活のさまざまなニーズとその複雑性は、情報プロセスに対して前例のない高度な要求を突きつけており、私たちの出版社、博物館、科学実験室、大学、図書館、教科書はそのプロセスのさまざまなニーズを満たさなければならず、そうでなければ存在の目的を失うことになります。効果的に生きるとは、生活するために十分な情報を持つことです。したがって、コミュニケーションとコントロールの本質は、個人の内的生活においても、個人の社会生活においても同じです。
ウィーナーの見解の一つの柱は、熱力学第二法則とその核心的前提であるエントロピー、すなわち無秩序、混乱、予測不可能性の増加傾向が、任意の閉じたシステム内で時間とともに増加するということです。しかし、たとえ私たちが宇宙自体を閉じたシステムと考えたとしても（この仮定は、私たちの宇宙が多くの宇宙の一つである可能性を無視しています）、個人や彼らが形成する社会は閉じたシステムとは見なされません。むしろ、彼らは広大な宇宙の混沌の中で秩序を確立し、エントロピーを減少させようとする小さなポケットです —— これらの試みは、私たちが情報を組織し、交流するシステムにコード化されています。ウィーナーは、有機体と機械のこの点における類似性を探求しました —— 彼の時代にはこれは急進的な概念であり、私たちの時代にはこの概念はまだ理解されていないが、明白です：
もし私たちが「生命」という言葉を使って、エントロピーの増加の流れに局所的に反する現象を総括したいのであれば、私たちは自由にそうすることができます。しかし、そうした場合、私たちは天文学的に知られている多くの現象を含めることになりますが、それらは生命と極めてわずかしか似ていません。したがって、私の意見では、「生命」、「魂」、「生命力」などの自己証明がまだなされていないコードを避けるのが最善です。そして、機械について話すときには、単に次のことを指摘するだけです：エントロピーが増加する傾向の範囲内で、減エントロピーを表す局所的な領域において、私たちは機械が人間に似ていると言う理由がないのです。
私がこの機械と生命体を比較する際、私の意図は、私たちが通常理解している生命に関する特定の物理的、化学的、精神的プロセスと、生命を模倣する機械のプロセスが同等であると言うことではありません。私は単に、両者が局所的な反エントロピー過程の例として機能する可能性があると言っているのです。反エントロピー過程は、もちろん生物学的とも機械的とも呼ばれるべきではない多くの他の方法でも例を見つけることができるかもしれません。
ウィーナーは驚くべき先見の明を持って次のように補足しました：
私たちは、メッセージの研究と社会的通信手段の研究を通じて社会を理解することができ、これらのメッセージと通信手段の将来の発展において、人と機械、機械と人、機械と機械の間のメッセージは、社会の中でますます重要な地位を占めることになるでしょう。
[...]
コントロールとコミュニケーションにおいて、私たちは必ず組織的な低下と意味の損失という自然の傾向と戦わなければならず、すなわちエントロピーの増加傾向と戦わなければなりません。
ニール・ゲイマンの概念によれば、物語は「私たちと共に生きる真の共生的有機体であり、人類を前進させることを許す」とウィーナーは考えました。生物有機体がどのように類似しており、情報システムの助けを得ているかについて：
有機体は混乱、崩壊、死の対立物であり、メッセージはノイズの対立物です。有機体を描写する際、私たちはその中のすべての分子を詳細に説明し、それらを一つ一つカタログ化しようとしているのではなく、その有機体のパターンを明らかにするいくつかの質問に答えようとしているのです：たとえば、その有機体がより完全な有機体に変わるとき、パターンはより大きな意味を持ち、変化が少ないものです。
[...]
私たちは固定不変の物質ではなく、自ら永続するパターンです。パターンとはメッセージです。
彼は次のように補足しました：
メッセージ自体はパターンと組織の一形態です。確かに、私たちはメッセージの集合をエントロピーを含むものと見なすことができます。私たちが外部の世界の状態の集合を扱うのと同じように。エントロピーが組織の崩壊の尺度であるように、メッセージの集合が持つメッセージは、その集合の組織性の尺度です。実際、メッセージが持つ情報は本質的にそのメッセージの負エントロピーとして解釈でき、そのメッセージの確率の負の対数として解釈できます。つまり、より可能性のあるメッセージは、提供される情報が少なくなるということです。
ウィーナーはエミリー・ディキンソンを喜ばせる例を用いてこの見解を説明しました：
閉じたシステムにおいてエントロピーが自発的に増加する傾向があるため、情報も自発的に減少する傾向があります。エントロピーが無秩序の尺度であるのと同様に、情報は秩序の尺度です。情報とエントロピーはどちらも保存されず、商品としても同様に適していません。たとえば、陳腐な表現の意味は偉大な詩よりも劣ります。
[...]
陳腐な表現が流行するのは偶然ではなく、それは情報の本質に固有の現象です。情報の所有権は必然的に次の不利な条件に直面します：社会の一般的な情報を豊かにするためには、その情報は本質的に社会の元々の公共の貯蔵から異なる何かを述べなければなりません。偉大な文学的古典作品の中には、明らかに価値のある情報が大量に捨てられることさえあります。なぜなら、みんながその内容に慣れてしまったからです。学生はシェイクスピアを好まない。なぜなら、彼にとってシェイクスピアはただの馴染みのある引用の集まりに過ぎないからです。人々がこの作家を深く研究し、当時の浅薄な陳腐な表現が用いる部分から解放されたとき、私たちはこの作家との情報的な関係を再構築し、彼の作品に新たな評価を与えることができるのです。
この結果としての推論は、技術とメディア環境がすべてをより明確にし、ウィーナーがこれらのものを目にしたことがないことを示しています。私たちはそれと共に生きなければならないのです：
変動する世界の中で、情報を保存しながらその価値を大きく損なわないという考えは、ばかげています。
[...]
情報は、保存することを目的とするよりも、流通することを目的としています。… 情報の重要性は十分に実現されており、それは私たちが外界を観察し、外界に対して効果的に行動する連続的なプロセスの中の一段階です。… 人は生きている限り、外界の影響を受け、外界に対して行動を起こす連続的な流れに参加せざるを得ません。その中で、私たちは単なる媒介者に過ぎません。言い換えれば、変化し続ける世界に生きることは、知識の連続的な発展に参加し、知識の円滑な交流に参加することを意味します。
ザディ・スミスを思い起こさせる段落の中で、彼は普遍的な進歩の幻想に対する明晰な修正を行い、今日の社会科学者が選択的な統計データの中で心地よい「進歩」のバージョンを提供することと対比させて、彼らが誰が「進歩」の対象であるかを故意に無視していることを指摘しました。ウィーナーは次のように書きました：
私たちは、世界全体が熱力学第二法則に従う生活を送らざるを得ません：混乱は増加し、秩序は減少しています。しかし、前述のように、熱力学第二法則は閉じたシステム全体に対しては有効な表現ですが、その中の非孤立部分に対しては有効ではありません。全体のエントロピーが増加する世界の中で、いくつかの局所的で一時的な減エントロピー地域が存在します。これらの地域の存在により、進歩の存在を主張することが可能になります。
[...]
したがって、私たちが熱力学第二法則を悲観的に解釈するかどうかは、私たちが宇宙全体とその中に見つけた局所的な減エントロピー地域の重要性をどのように評価するかによります。私たち自身がそのような減エントロピー地域であり、他の減エントロピー地域に住んでいることを忘れないでください。その結果、正常な視界は遠近の違いによって生じる差異により、私たちが減エントロピーと秩序の増加地域に与える重要性は、宇宙全体に与える重要性よりもはるかに大きくなります。
ウィーナーは、歴史の時間の矢と普遍的な意味での「進歩」の矢が一致するという見解を持っており、この見解の核心的欠陥は次のように述べられています：
私たちの進歩への崇拝は、二つの観点から探求できます：一つは事実の観点、もう一つは道徳の観点であり、後者は賛成または反対の基準を提供します。事実の面では、人々は次のように主張します：アメリカ大陸の発見の後、私たちは終わりのない発明の時代に入り、環境を制御する新技術を発見する終わりのない時代に入ったと。進歩の信者たちは、この時代は永遠に続き、人類が想像できる未来には終わりが見えないと言います。進歩の概念を道徳的原則として扱う人々は、この制限のないほぼ自発的な変化のプロセスが「良いこと」であり、後の世代に楽園を保証する根拠であると考えます。人々は進歩を道徳的原則として信じることなく、単に事実として信じることができます。しかし、多くのアメリカ人の教義において、両者は切り離せません。
このようにして、ウィーナーは進歩の物語の中で最大の空白、すなわち異なるスケールと種の間に存在する相互関係を認めることに向かいました。1 世紀前、先駆的な博物学者ジョン・ミューアは彼の主張の中で忘れがたい瞬間を捉え、「私たちが何かを単独で取り出そうとするとき、それは宇宙の他のすべてとつながっていることがわかります」と述べました。レイチェル・カーソンが現代の環境意識を目覚めさせる 10 年前、ウィーナーは人類の「進歩」が地球上に与えるより大きな代償について考えました：
多くの人々は、最近の 400 年が世界史の中で非常に特別な時期であることを認識していません。この時期に起こった変化のペースは前例がなく、その本質も同様です。それは部分的には通信の強化の結果ですが、自然界に対する人々の支配の強化の結果でもあり、地球という限られた範囲の惑星において、この支配は根本的に私たちが自然界の奴隷であることを強化します。… 私たちは環境を根本的に改造したため、新しい環境で生き残るためには自分自身を改造しなければなりません。私たちはもはや古い環境に住むことはできません。進歩は未来に新しい可能性をもたらすだけでなく、新しい制限ももたらします。… 私たちは個人の破壊という確実な事実に直面する勇気を持たなければならず、同様に私たちの文明の最終的な破壊に直面する勇気も持たなければなりません。進歩の単なる信仰は強力な信念ではなく、むしろ受け入れざるを得ない無力な信念です。
[...]
したがって、新しい産業革命は二重の刃を持つ剣であり、人類の利益のために使用することができますが、人類が生存する時間が十分に長い場合に限ります。新しい産業革命は人類を滅ぼすこともでき、私たちがそれを理性的に利用しなければ、それはすぐにその地位に達する可能性があります。
30 年後、偉大な医師、語源学者、詩人、エッセイストのルイス・トーマスは、危険と進歩の可能性についての美しい思索の中で、この感情の別の側面を明らかにしました。「もし私たちが続ければ、私たちは次々と驚きを経験するでしょう。私たちは人類社会のために前例のない構造、前例のない思想、前例のない音楽を築くことができます… 自殺しない限り、感情と尊重を通じて自分自身を結びつけることができる限り、私たちの遺伝子もそうであると信じています。私たちがこの星上またはこの星外でできることは無限です。」ウィーナーの最も先見の明のある見解は、私たちが生き残るだけでなく、文明と種として繁栄するためには、これらの同じ感情と尊重の価値観を私たちの機械、情報システム、通信技術にコード化しなければならないということです。そうすれば「新しいパターンが人類の利益のために使用され、人類の余暇を増やし、その精神的生活を豊かにすることができるのです。利益や機械への崇拝のためだけではなく。」
メアリー・シェリーが『フランケンシュタイン』の中で提起したこれらの永遠の革新と責任に関する問題から 1 世紀以上後、ウィーナーは私たちが現在直面している人工知能の崖について、驚くべき先見の明と現実的な見解を示しました。この時代、アルゴリズムが私たちが何を読み、どこに行き、どれだけの現実を見るかを決定しています：
機械が社会に対して危険なのは、機械そのものからではなく、機械を使用する人々からです。
[...]
現代人、特に現代のアメリカ人は、多くの「どうするかを知っている」知識を持っているにもかかわらず、「何をするかを知っている」知識は極めて少ないです。彼は高度に敏捷な機械の決定を受け入れることに喜んでいますが、それらの背後にある動機や原理について深く問い直すことはありません。… 決定を下すために作られた機械が学習能力を持たない場合、それは完全に硬直した思考の機械になります。もし私たちがそのような機械に私たちの行動を決定させるなら、私たちは不幸になるでしょう。私たちがその活動のパターンを事前に研究し、それが私たちが受け入れられる原則に従って行われていることを十分に理解している限り、そうでなければなりません！一方、ボトル型の悪魔のような機械は学習でき、学習に基づいて決定を下すことができますが、私たちの意図に従って私たちがすべき決定や受け入れ可能な決定を下すことは決してありません。この点を理解せずに機械に責任を押し付ける人は、その機械が学習できるかどうかにかかわらず、自分の責任を天風に委ね、吹き飛ばされてしまうことになります。そして、それが旋風の背に乗って再び自分のもとに戻ってくることを発見するのです。
ウィーナーのこの数十年前の本の核心は、すべてのプログラマー、技術者、起業家が心に刻むべき永遠で緊急の見解です。先駆的な哲学者スザンヌ・ランガーは、私たちが提起する問題が私たちの出す答えや私たちが築く世界にどのように影響するかを考え、8 年後に次のように書きました：
個々の人が基本的なメンバーとして社会に織り込まれるとき、彼らが責任を持つ人として適切に機能できない場合、単なる歯車、レバー、リンクとして機能するだけであれば、彼らの原料が血や肉であっても、実際には金属と何ら変わりません。機械の一部として利用されるものは、実際には機械の一部です。私たちが金属でできた機械に決定を委託するか、血肉でできた機械（機関、大型実験室、軍隊、株式会社）に委託するかにかかわらず、私たちが問題を正しく提起しなければ、正しい答えを得ることは決してありません。
エントロピーが支配する宇宙の背景の中で、私たちの存在は非常に驚くべきものであり、それは特別な責任を与えられています —— この責任は人間の生活の意味の源であり助けです。ノーベル賞受賞者であるポーランドの詩人ヴィスワヴァ・シンボルスカも後に同感を持ち、ウィーナーは次のように書きました：
私たちは、生命が有限な時間内の現象であると完全に想像することができます。最初の地質時代の前には生命は存在しませんでした。そして、地球が無生命の時代に戻り、焼かれたり凍ったりする惑星になることもあるでしょう。生命に必要な化学反応が行われる物理的条件は極めて稀であり、これを理解する人々にとって、次の結論は避けられません：この地球上のあらゆる形の生命、さらには人間のような生命さえも存続することができるのは、この幸運な偶然が全体的に不幸な結末に達することが不可避であるからです。しかし、私たちは自分自身を便利に評価し、生命の存在という一時的な偶然の出来事と人間の存在というさらに一時的な偶然の出来事を、最も重要な価値を持つものとして考えることができます。それらの一瞬の性質を考慮する必要はありません。
非常に現実的な意味で、私たちはこの逃れられない星の失敗した船の乗客です。しかし、失敗した船の上でも、人間の尊厳と価値は必然的に消えるわけではなく、私たちはそれをできる限り発揮しなければなりません。私たちは沈む運命にありますが、私たちは自分のアイデンティティにふさわしい態度で未来を展望することができます。
翻訳元：Brain Pickings の記事「人間の人間の利用：サイバネティックスの先駆者ノーバート・ウィーナーがコミュニケーション、コントロール、そして私たちの機械の道徳について」The Human Use of Human Beings: Cybernetics Pioneer Norbert Wiener on Communication, Control, and the Morality of Our Machines