AIの進化は誰も目にも明らかですが、進化しているのはAIだけではありません。合成生物学、ロボット工学、量子コンピュータなども同時に進化しています。これらの個々の技術だけでも強力ですが、相乗効果で社会のあらゆる側面を良くも悪くも変えていく力を持っています。
～ ～ ～ ～ ～
はじめに
前回の記事で２千年以上前のストイシズムの哲学者エピクテトスの教えを紹介しました。今回は、前回から180度反対の最先端技術の進化について書きます。目覚ましい発展を遂げるAIや合成生物学（Synthetic Biology）がもたらす私たちの未来に関する書籍の紹介です。
AIの実力はもはや誰の目にも明らかですね。すでに誰もが自分専用のアシスタントとしてAIを利用する未来がすぐそこに見えてきています。
進化しているのはAIだけではありません。バイオテクノロジーも急速に進化してきています。
これほどまでに変革をもたらす可能性を秘めた技術の進化は、かつてないほどで、世界を一変させる力を持っています。
私たちの社会や生活に様々なメリットをもたらす一方で、悪用された場合のインパクトも計り知れません。
AIによって、制御不能なシステムや理解できないアルゴリズムを作り出されるかもしれません。バイオテクノロジーによって、生命そのものを操作し、個体と生態系全体に深刻な影響をもたらすかもしれません。
今後数年から十数年の間に私たちが下す決断は、これらのテクノロジーの恩恵にあずかるのか、それともその犠牲になるのかを決定づけるでしょう。
私たちはその課題に正面から向き合う準備をしなければなりません。
～ ～ ～ ～ ～
来たる大きな波 The Coming Wave
今回紹介する書籍は、2023年に出版された『The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma（邦題）THE COMING WAVE – AIを封じ込めよ – DeepMind創業者の警告』です。
いつものように、私は英語版を読んでいますので、日本語版との表現の違い等についてはご了承ください。
著者のムスタファ・スレイマン（Mustafa Suleyman, 1984 -）は、近年のAIの進化の中心人物です。AIの可能性と危険性のバランスをとるためのガバナンスや倫理的問題について主導的な役割も果たしています。
以前、本サイトでは、AIがもたらす危険性について異なる視点から書いた、イスラエルの歴史学者でありベストセラー作家のユヴァル・ノア・ハラリ（Yuval Noah Harari, 1976 -）著の『NEXUS 情報の人類史』を紹介しました。しかし、AIの専門性や幅広い応用と関連する経験や知識の豊富さという点では、スレイマンの方が圧倒的です。
ビルゲイツは彼のホームページ「Gates Notes」で本書について次のように書いています。
人工知能について尋ねられると、大概、その質問は「何を心配すべきか、そしてどの程度心配すべきか」という点に行き着きます。この１年間、私はムスタファ・スレイマンの『The Coming Wave』を読むように勧めてきました。
この本は、国家元首、ビジネスリーダー、そしてAIについて尋ねてくる誰にでも、どの本よりも強くお勧めする本です。なぜなら、この本は稀有な視点を与えてくれるからです。将来に待ち受ける驚異的な機会と真のリスクの両方を、冷静に見据えた視点で提示してくれるからです。
この本に関する評論や話題のほとんどが人工知能だけに焦点を当てています。これは、本書がAIに関する歴史上最も重要な書籍の１つであることを考えると当然で、ムスタファ以上に適した著者もいないでしょう。
しかし、彼の本が他の本と異なるのは、AIは前例のない科学的ブレークスルーのごく一部分に過ぎないという洞察です。
遺伝子編集、DNA合成、その他のバイオテクノロジーの進歩が、同時進行で進んでいます。ほとんどの人にはこれらの変化が見えていません。しかし、はるか遠くの海から押し寄せる波のように勢いを増しています。個々の技術革新のみでもゲームチェンジャーとなりえるほど強力ですが、それらが相まって、社会のあらゆる側面を変えていく力を持つのです。
～ ～ ～ ～ ～
ムスタファ・スレイマンとDeepMind
ムスタファ・スレイマンは、1984年、ロンドンで、シリア人の父とイギリス人の母の間に生まれました。初期のキャリアでは、社会変革やシステム変革に携わりましたが、AIが社会を変える大きな可能性に気が付いてからキャリアを変えます。
2010年にDeepMindを共同設立し、応用AI部門の責任者を務めました。彼の役割は、AI研究の成果を、医療、エネルギー、ビジネス分野など実社会への応用につなげることで、医療向けAI（医用画像、患者モニタリング）やデータセンターのエネルギー使用量の低減などに貢献しました。
2019年にGoogleに参加し、AIプロダクトマネジメントおよびAIポリシー担当副社長を務め、2023年からはMicrosoftでAI部門のCEOを務めています。
～ ～ ～ ～ ～
ディープラーニング、Q学習、DQN、AlphaGo
本題に入る前に、DeepMindがもたらしたブレークスルーを紹介しましょう。
2013年、DeepMindは、Deep Q-Network（DQN）と呼ばれるシステムを用いて、「ブロック崩し」などのビデオゲームを機械が自動学習できることを実証しました。
個別のプログラミングなしで、人間が直感で判断するのと同じ様に、画面上のピクセルからゲームのパターンを理解し、プレイし、より効率的にスコアを上げる方法を導いたのです（下のYoutube参照）。
一般の方でも理解できるように分かりやすく説明すると、DQNとはディープラーニングとQ学習を組み合わせたものです。
ディープラーニングは、膨大なデータから、自動的に学習するための汎用ツールです。
機械は、相互接続されたニューロンの多層ネットワーク（ディープニューラルネットワーク）を用いて、大量のデータからパターンを自ら認識していきます。
例えば、機械が猫の見分け方を学習していると想像してみてください。何千枚もの猫の写真を見ることで、機械は徐々に理解していきます。
「猫にはたいてい尖った耳、ひげ、ふさふさした体があるな…」
学習の結果、写真を見たとき「あれは猫だ！」と判断できるようになります。
これがディープラーニングです。この技術は画像、音声、言語などに利用されています。
Q学習は「決定と報酬」の機能を担う強化学習アルゴリズムです。
犬に芸を教えていると想像してみてください。
犬は、指示通りに芸をするたびにご褒美がもらえます。しなければご褒美はもらえません。
犬は学習します。
「お手と聞いて手を差し出したらご褒美がもらえた。また同じようにすればご褒美がもらえるんだな」
これがQ学習です。
これは試行錯誤のプロセスで、AIはある行動を試し、フィードバック（報酬またはペナルティ）を受け取り、その行動が良かったか悪かったかを記憶します。時間の経過とともに、AIはどの行動が最適かを学習していきます。
DQNは、ディープネットワーク（知覚）とQ学習（報酬ベース学習）を組み合わせたアルゴリズムです。これによって、AIがビデオゲームの画面を見ただけで、試行錯誤の末にプレイできるようになったのです。
ディープラーニング：データ内のパターンを見つける、状況を認識する
Qラーニング：どのような行動が最大の報酬をもたらすか学習する
DQN：パターンを認識し、報酬を最大にするための行動を選択する
ここで、今まで私のサイトにお付き合い頂いてきた方や、脳科学をかじったことのある方は「あれ？これって脳の仕組みに似てない？」と気が付くことでしょう。
そうです、実はディープラーニングを含めた機械学習は、私たちの脳のニューロンの働きやネットワークの構造にヒントを得た計算モデルです。
ディープネットワーク部分は、脳の感覚入力の処理に似ています。
Q学習部分は、脳の報酬システムに似ています。
AIの「人工ニューロン」は入力の重み付き和を計算し、非線形関数を適用して次の層に伝達します。重要な接続があると、その重みは強くなります。これは脳のシナプスの可塑性に似ています。私たちの脳でも、ニューロンの接続は、その頻度に応じて強まったり弱まったりしています。
2015年には、Deepmindが開発したAIプログラムAlphaGoが、ヨーロッパの囲碁チャンピオンを破り、2016年には、世界最高棋士を破りました。AlphaGoは4000年の囲碁の歴史の中で、人類が想像できず、その意図すら理解できなかった37手目は特に衝撃を与えました（下のYoutube参照）。
囲碁は、ビデオゲームと異なり、膨大な選択肢があるため、AIには複雑すぎると考えられていました。しかし「教師あり学習（Supervised Learning）」「価値ベース学習（value-based RL）」「ポリシーベース学習（Policy-Based Reinforcement Learning）」「モンテカルロシミュレーション」などの手法を組み合わせることで、この偉業を成し遂げ、世界的に認知されることになったのです。
～ ～ ～ ～ ～
大規模言語モデル、対話型AI
スレイマンとは直接関係なく、またテクニカルな話が長くなってしまいますが、重要なので、その後のAIのブレークスルーであるLLM（Large Language Model：大規模言語モデル）についても触れましょう。
人間が使う自然言語の処理は、AIにとって複雑すぎ、多様すぎ、微妙なニュアンスが多すぎると思われていたのは、それほど昔のことではありません。
しかし、2022年11月、OpenAIがLLMを利用した対話型AIであるChatGPTを一般公開し、私たちの生活が一変し始めます。LLM（大規模言語モデル）をユーザーフレンドリーな形で提供し、誰もが探求することを可能にしたのです。
LLMは「人間が使う言語データは、言葉を順序付けて結びつけている」という特徴を利用します。つまり、言語情報は、その前にあるデータと関連しています。LLMは膨大な量の文を読み取り、それらに含まれる情報を学習し、それに基づいて次に何が来るかを予測します。
ざっくり言えば、対話型AIは、次に来る最適な単語を選ぶことを繰り返しているだけです。
人間の脳を多く参考にしているシステムですが、逆に、複雑と思われている脳の働きもLLMのように割とシンプルなルールに基づいて動いているのかもしれません。
LLMの単語選びで重要なのは、与えられた文の中で、「どこで探すべきか」を知るアルゴリズムを設計することです。文の中で最も目立つキーワードは何か？それらはどのように関連し合っているか？AIでは、この概念は「アテンション」と呼ばれます。なお、この「アテンション」も人間の脳の「アテンション」機能と似ています。
大規模言語モデル（LLM）が文を取り込むと「アテンションマップ」を構築します。まず、頻繁に出現する文字や句読点のグループを「トークン」という文字の塊に整理します。これにより、モデルが情報を処理しやすくなります。モデルは共通のトークンからなる新しい語彙を作成します。これは、数十億もの文書からパターンを見つけるのに役立ちます。
「アテンションマップ」では、すべてのトークンはそれ以前のすべてのトークンと何らかの関係を持ち、与えられた入力文において、この関係の強さは、文におけるそのトークンの重要性を表します。つまり、LLMはどの単語に注意を払うべきかを学習します。
対話型AIは、過去の文脈をもとに次に続くトークンを確率的に選び続ける仕組みで動いているのです。ただし、場合によっては確率上位の候補からランダムに選ぶことがあります。これによって回答が一律ではなく、多様になります。
対話型AIの進化は、恐るべきスピードで起きています。
特にLLMの発展に貢献してきたOpenAIのGPT（Generative Pretrained Transformer）シリーズで見ると次のような進化を遂げています。
2018年：GPT-1。1億1,700万パラメータ（パラメータは２つの単語の関係性や、ある単語が別の単語の後に現れる確率などを表す）を備えたGPTモデルの最初のモデル。Transformerを言語モデルに使用できることを実証した。
2019年：GPT-2。15億パラメータを備えたより強力なモデル。
2020年：GPT-3。1,750億パラメータ。エッセイやコード生成まで、幅広い用途で人間のようなテキストを生成でき、LLMの驚異的な可能性を示した。
2022年11月30日、GPT-3.5の機能を会話型インターフェースで一般公開し、誰でも高度なAIモデルを無料で利用可能となり、大きなマイルストーンとなる。
2023年：GPT-4。推論能力、事実の正確性、より複雑なタスクにおける一貫性のあるテキスト生成能力が向上。なお、GPT-4からはパラメータ数は公開されていません。
2025年：GPT-5。事実性、推論力のさらなる強化に加え、長文の文脈保持や複雑なタスクへの柔軟な対応力が大幅に向上。画像や音声などのマルチモーダル処理も安定性が増し、実用性が一層高まる。
驚異的なのは、LLMはまだ始まったばかりにすぎないという点です。本当の進化と深化を私たちが目にするのはこれからです。
～ ～ ～ ～ ～
応用AI
さて、ここまでですでにだいぶ長くなってしまいましたが、まだ本書の前段しか説明していません（汗）。
急ぎ足で先を進めましょう。
AIの進化は目覚ましいですが、進化が目覚ましいのはAIだけではありません。
来たるべき波は、人工知能（AI）と合成生物学（synthetic biology）という２つの核となる技術によって特徴づけられます。
合成生物学は、分子生物学の知識を基盤として、工学的なアプローチで生命システムを設計、構築する学問分野です。
遺伝子やタンパク質を部品のように扱い、これらを組み合わせて新しい機能や性質を持つ人工的な生物や物質を作り出します。環境、医療、食料など、社会的な課題解決への応用が期待されており、バイオテクノロジーや遺伝子工学を含む、生物学と工学の学際的な分野です。
ゲノム配列決定は現在、急成長を遂げているビジネスですが、技術の絶え間ない進歩のおかげで、ヒトゲノム配列決定のコストは2003年の10億ドルから、2022年には1,000ドルを大きく下回るまでに低下しました。
やがて、大多数の人間、植物、動物のゲノムが配列決定される可能性が高く、すでに23andMeのような会社は、数百ドルで個人のDNAプロファイリングを提供しています。
また、バイオテクノロジーは、単にコードを読むのではなく、コードを編集し、書き込むことも可能にしています。
CRISPR遺伝子編集（clustered regularly interspaced short palindromic repeats）によって、遺伝子はまるでテキストやコードのように、簡単に編集できるようになりました。
CRISPR（クリスパー）は、精密に調整されたハサミのような役割をする酵素Cas9（キャス9）を用いてDNA配列を編集します。Cas9はDNA鎖の一部を切断することで、細菌から大型哺乳類まで、あらゆる生物の遺伝子を正確に編集、改変します。わずかな変化からゲノムへの重大な介入まで多岐にわたる編集が可能です。その影響は甚大で、例えば、卵子や精子を形成する生殖細胞を編集すると、その変化は世代を超えて未来に引き継がれます。
AIと同様に、遺伝子工学は猛烈な勢いで進化と発展を続ける分野で、世界中の才能とエネルギーが集中し成果を上げています。
ほんの数十年前までは、バイオテクノロジーは費用がかかり、複雑で、進歩が遅く、十分な資金を持つ研究チームだけが参加可能な研究分野でした。
しかし、CRISPRのような技術を安価に利用できるようになり、誰もが参加できるようになりました。かつては何年もかかっていた実験が、大学院生によって数週間で行われるようになりました。
Odinのような企業は、生きたカエルやコオロギが入った遺伝子工学キットを1,999ドルで販売しています。
また、卓上型DNA合成装置（DNAプリンター）をわずか2万5000ドルで購入し、自宅で、制限や監視なしに、思いのままに使うことができます。つまり、私たちは生物系を読み、書き、編集し、「印刷」して生物を作り出すことができるのです。
スタンフォード大学の生物工学者ドリュー・エンディ（Drew Endy）の言葉を借りれば、「生物学は究極の製造プラットフォーム」になります。つまり、合成生物学により「誰もが、どこでも、必要なものを自由に生み出せるようになる」のです。
膨大なデータ（ゲノム、遺伝子発現、タンパク質相互作用）を分析し、どのような編集が有用な形質（例えば、干ばつ耐性植物やがん耐性免疫細胞など）を生み出す可能性が高いか、人間では長い年月を必要とした解析作業を、AIはわずか１週間で行うことができます。
DeepmindはAlphaFoldというプロジェクトを2016年に立ち上げて、わずか2年後の2018年のコンペティションで、従来からの生物学の研究チームを抜き去って優勝しました。
AlphaFold はすでに数百万もの複雑な３Dタンパク質構造を明らかにしています。今や応用生物学の進化にAI利用は不可欠です。
CRISPRが医療、農業、バイオテクノロジーなどの分野を変革する可能性は計り知れません。一方で、懸念すべき事項の１つが、ヒトの遺伝子編集です。
中国の研究者賀建奎が、香港で開催された第２回ヒトゲノム編集国際サミットの直前の2018年11月26日、下記のYouTube動画で世界初の遺伝子編集ベビー（ルルとナナという双子の女の子）の誕生を発表したのはまだ記憶に新しいところです。
彼は、CRISPR-Cas9の遺伝子編集技術を用いて、体外受精の着床前の胚内のCCR5という遺伝子を編集したのです。
ルルとナナは遺伝子編集を受けた最初の人間となりました。将来、彼女たちに意図しない遺伝子変化が生じる可能性もあります。
この発表は、生殖細胞系列編集（遺伝する可能性のある変化）の初めての事例で、世界から非難と倫理的な懸念を引き起こしました。なお、彼はその後、中国で懲役３年の判決を受け、また、今後のヒト生殖研究への参加禁止措置を受けています。
～ ～ ～ ～ ～
技術的ブレークスルーのダークサイド
進歩を遂げているのは人工知能と合成生物学だけではなく、ロボット工学、量子コンピュータなどの分野も同じです。スレイマンは、これらの技術の来たる波を特徴づける４つの共通点を挙げています。
１．非対称的 Asymmetry
一般人でも手にしやすく安価で強力な技術となり、かつては巨大な組織のみが利用していた技術を誰もが利用できるようになる。
２．超進化 Hyper-evolution
変化のスピードが加速し、ある分野の進歩が他の分野にも波及し（AIがバイオを助け、バイオが材料を助けるなど）、相乗効果で成長は爆発的になる。
３．汎用 Omni-use
これらの技術は、特定の用途に限定されていないため、商業、社会、軍事のあらゆる分野で、幅広い応用的な利用が可能になる。
４．自律性 Autonomy
人間の監視や介入なしで動くようになり、どう安全性を確保するのか、どう監視、制御するかが課題となる。
繰り返しますが、これらの強力な技術が、比較的安価で誰にでも利用できてしまうようになるのです。
核技術は世界に大きな脅威をもたらしていますが、核のボタンを押すことができるのはごく限られた国のごく限られた人たちだけです。しかし、このような脅威的な技術が誰にでも利用可能になってしまうのです。
私たちの生活や安全に欠かせないセキュリティやパスワードなどが、高度に進化したAIを利用した悪意あるハッカーに突破、解読されるまでそれほど時間はかからないでしょう。少なくても、「akito4649」などの簡単なパスワードは、より複雑なものに設定し直しておく必要があるでしょう（自分への教訓です。。。）。
ドローン、ロボット技術は戦争の場ですでに利用されています。
ロシアとウクライナの戦争は、ドローン戦争へと変わりました。
今朝（2025年9月25日です）のニュースでは、スウェーデンの活動家のグレタ・トゥーンベリを含む500人以上のボランティアを乗せ、ガザに食糧支援のために向かっていた船団が、海上で複数のドローンの標的となったと報道しています。
ドローン攻撃は防御が困難で、今後の技術の発達とともに、さらに強力な兵器へと進化していくでしょう。
また、国家だけでなく小規模なチームでも、危険な生物学的編集を設計できるようになるでしょう。
2020年11月、モフセン・ファクリザデ（Mohsen Fakhrizadeh, 1961 -2020）はイランの核兵器開発の主任科学者で、その中心人物でした。敵対勢力にとって格好の標的で、リスクを認識していた彼は、治安機関の支援を受け、自らの居場所と行動を隠蔽していました。
厳重に警備されて、別荘へと向かっていたファクリザデの車列は、突然銃弾の集中砲火を浴びます。負傷したファクリザデは車からよろめき降りましたが、二度目の機関銃掃射を受けて命を落としました。
数瞬後、爆発音が響き、近くのピックアップトラックが炎上します。しかし、トラックには銃以外何も積まれておらず、暗殺者もいませんでした。
ニューヨーク・タイムズ紙の報道によれば、これは「人工知能と複数のカメラを搭載し、衛星経由で操作され、毎分600発の弾丸を発射できる、ハイテク狙撃兵の初テスト」でした。
一見無害そうに駐車されていたカメラ付きピックアップトラックに搭載されていたのは、イスラエルのロボット兵器でした。攻撃の承認は人間が行いましたが、銃の照準を自動調整したのはAIでした。
15発の銃弾が発射され、イランで最も厳重に警備された人物が、１分足らずで殺害されました。トラックの爆発は証拠隠滅に過ぎませんでした。
これらの出来事は、これから起こることを予兆します。
至る所に人をAIで特定するために利用できるカメラがすでに設置されており、GPSで所在も特定できるようなりました。私たちはもはや逃れられません。その場にいなくても、遠隔操作で人を見つけ殺せる世界になります。
未来の戦闘型ロボットは、走り回る犬のような姿か、さらに小型化された鳥や蜂ほどの大きさになり、小型銃か炭疽菌を装備するようになるでしょう。
そして、望むなら誰でもそれを入手できるようになるのです。
～ ～ ～ ～ ～
さいごに
著者のムスタファ・スレイマンが自ら語る人生の使命は、世界をより良い場所にする安全で有益なAIを創造することです。現在、Microsoftで多くの人たちに力を与えるためにAI開発に携わり、人がこれまで考えられていたよりもはるかに多くのことを達成し、より多くのサポートを感じられるような製品を作ることに注力しています。
AIが人間の能力を超える（Superintelligence）時代の到来は差し迫っています。
彼は、技術の悪用を防ぐために、以下の10の提言をしています。これらは決して、イノベーションを阻止するものではなく、リスクの封じ込めに重きを置いたものです。最後にこれらを紹介して、今回は失礼致します。
AIの悪用防止のための10の提案
1. 安全性
必要に応じてシステムをシャットダウンまたは隔離できる「キルスイッチ」の導入。安全なテスト環境、セキュリティプロトコルなどの厳格な安全対策の構築
2. 監査・透明性・監視
AIシステムと研究所に対する定期的な外部監査の実施。データ使用、モデルの挙動、誤用の可能性、脆弱性に関する透明性の確保と知識の共有
3. 重要インフラの管理
重要なリソース（ハードウェア、ソフトウェア、DNA合成装置）へのアクセス制限、輸出入制限、ライセンス制度
4. 外部専門家・メーカーの関与
設計の初期段階から評論家、倫理学者、安全専門家を関与させ、安全対策を早期に組み込む
5. ビジネスインセンティブ
利益やスピードや市場シェアだけでなく、安全性や倫理的価値観も重視するように企業のインセンティブを再調整する。これらへの資金配分を確保し、取締役会や評議員会などを通じて実現する
6. 政府・規制
政府の規制する能力を強化する。業者の自主規制に任せるのではなく、営利活動と公共の安全を整合させるための法律や政策を整備
7. 国際協力・条約
核不拡散条約と同様の国際協調。「セーフヘイブン」防止の国際的枠組み、国際基準の整備
8. オープンな文化・失敗から学ぶ
失敗を認め、教訓を共有する規範の推進。何がうまくいかなかったのかを透明性を持って伝え、失敗から他の人たちが学べるようにする
9. 社会意識・市民運動の啓発
より広範な市民の参加を促し、教育、活動、啓発を通して、市民がリスクを正しく理解し、関係者（企業、政府）を監督し、責任を負わせることができるようにする
10. 一貫性・包括的な戦略
１つの対策だけでは不十分であることを認識し、対策を連携させる。イノベーションと安全性の狭くバランスの取れた道を、継続的かつ適応的に進む
次回も引き続きAIについて書いていきます。
