ChatGPTは「言語を理解している」と十分に言うことができる

──ChatGPTと会話をしていると、人間の言語を理解しているかのように感じます。ChatGPTは現在、どれくらい人間の言語を理解しているのでしょうか？

「理解」をどう定義するか、が重要だと思います。ChatGPTが人間と会話するのと同じくらい役に立つと感じるのであれば、私としては「それ（ChatGPT）は言語を理解している」と言うのに十分だと思います。このようなテクノロジーを「ただの統計処理だ」と批判する人もいますが、私は彼らに「あなたの頭の中で何が起こっていると思いますか？（私たち人間の脳も同じように統計処理を行っているんですよ）」と言うでしょう。

重要なのはテクノロジーが提供する価値が実用的かどうかです。私にはChatGPTが確実に多くの言語を理解しているように感じます。さまざまな人の役に立つことができますし、かなり複雑かつニュアンスの難しいトピックにも対応しているように見えます。

また、（将来的ではなく）ある時点から、ChatGPTは非常に重要な新しいアイデアを生成するようになり、科学的進歩にも価値を還元できるようになると思います。質問に戻ると、何をもって「理解」とするかについては引き続き議論されるでしょうが、（私が述べたことは）非常に重要な出発点だと思います。

過去500年分の進化を1〜5年で実現することも可能

──「大規模言語モデル」をより進化させるものは何でしょうか？

前提として、「大規模言語モデル」というのはもっと先のことだと思います。もちろん、OpenAIは将来的に動画や音声、画像、テキストといったすべてのものに対応できるようになるでしょう。時間の経過とともによりスマートになっていくと思いますが、直近のステップとしては人間の真似をするだけでなく、既存のアイデアと新しいやり方を組み合わせて、新しいアイデアを生成できるようになっていきます。

その次のステップは、ChatGPTが新しい知識を発見したり、病気を治したり、環境問題への対処法を導き出したり、人々が想像し得る課題の解決策のアイデアを出すことだと考えています。これが可能になれば、現在のモデルはまるでおもちゃのような、歴史的に見ても些細なものに見えるでしょう。

もちろん今の言語モデルも役に立つとは思いますが、ChatGPTの言語モデルの進化が世界をより良くし、これまでになかったスピードで成長していく唯一の方法だと考えています。過去500年分の進化を1〜5年で実現することも不可能ではありません。すごくワクワクしませんか。

ChatGPTは「言葉の計算機」という新しい教育ツール

──教育現場における、AIの適切な使い方についてどうお考えですか？

（ChatGPTの開発者として）私の視点はどうしても偏ってしまうので、話半分で聞いてください。まずは歴史的な例をもとに、お話ししましょう。

計算機が登場したとき、数学教師をはじめとする多くの人々が「数学の教育はもう終わりだ」「計算機を禁止するべきだ」「すべての計算機をハンマーで壊そう」というようなことを言ったそうです。彼らは計算機が登場したことで、子どもたちは自分の頭で計算をしなくなると考えたのです。

九九も暗記できない、計算尺も使えない、三角法で問題を処理することもできない、と。彼らの懸念は一部は正しく、一部は間違いでした。正しかったのは、数学教育において暗記や計算が以前より重要視されなくなったことです。

より優れたツールを手に入れ、可能性が広がったことで、私たちはこれまで秘められていた能力を発揮できるようになり、自分たちにできることへの期待値がさらに高まりました。計算機が登場する以前、計算などに費やしていた時間を今では微積分の学習に使えるようになったのです。私は、ChatGPTでも同じことが起こると考えています。

ChatGPTは新しい教育ツールであり、いわば「言葉の計算機」です。このツールは、今後数年で登場するであろう、さまざまなツールと比べると極めて簡易的なもので、まだまだ開発の余地があります。また、教育の方法や学生を評価する方法はこれから変わっていかなければなりません。例えば、学生が自宅に持ち帰って書くエッセイ（作文）は今までと違う形になっていくべきでしょう。

私は文章やプログラムの書き方を学ぶことは多くの理由で非常に重要だと思っています。その理由はどのように思考し、処理するかを学ぶことができるからです。私は複雑なアイデアを考える際、いまだに紙に書かなければ、うまく考えることができません。ここから、私が見出したエッセイの書き方を学ぶことの価値は、より優れた思考ができるようになるということです。OpenAIはこの点を非常に重視しています。

私たちは、これからChatGPTという新たなツールを使って、今の時代に適したエッセイの書き方を教育し、評価する方法を見つけていきます。新しい技術やツールに抗うことは賢明ではないと思いますし、多くの場合うまくいきません。その反対に、新しい技術やツールを受け入れて、それを使ってできることを模索するべきだと思います。

私はこれから学校に行き始める子どもたちを羨ましく思っています。この年代の子どもたちは、ChatGPTによって素晴らしい成長を遂げるでしょうし、彼らを高いレベルに押し上げることでしょう。また、子どもたちだけでなく、私たちの誰もが暮らしの中にChatGPTを取り入れていくことになると思いますが、ChatGPTは特に教育において非常に大きな価値を発揮すると考えています。それに応じて教育も進化していかなければなりません。

これは人類の歴史が証明していることですが、今までにない強力なツールが生まれるたびに、人はより素晴らしいことができるようになります。自動化が進み、さらに優れたツールを手に入れると、「人は何もしなくなるのではないか？」という懸念がどんな時も出てきます。何もしなくなる人もいるでしょう。それも良いと思います。

しかし、素晴らしいことを成し遂げる人たちが一定数いれば、社会が驚異的なスピードで進化していきます。私はChatGPTによって、これが実現することを確信しています。

今後取り組むべき改善点で埋め尽くされたノート

──AIの法的・倫理的なリスク（著作権やプライバシーの問題）についてはどのように考えていますか？

強力なツールには、大きな利点と管理しなければならない重大なリスクがあります。ChatGPTの利点は、科学を筆頭に教育、ヘルスケア、業務の生産性に大きな進歩をもたらすことです。それによって社会・世界に貢献していきます。一方で、著作権などの大きな課題があることも事実です。現状の法制度も進化が必要でしょうし、全員がWin-Winのシチュエーションになる世界にしていかなくてはいけないと思います。これは社会全体の形を変えるものになるでしょう。

ChatGPTの言語モデルをよりスマートにするコンテンツを作っている人、あるいは言語モデルに新しいことを教えている人、また言語モデルを自らのスタイルで使っている人たちもいます。具体的には画像ジェネレーターを使い、自分のスタイルでアートを作り出すアーティストなどです。誰もが恩恵を受けられます。

世界中を巡っている今回の旅で、私たちはいろんな人に「AIに何を望むか」を聞いています。その答えは多種多様で、私たちは誰もがメリットを得られる方法を考え出さなければなりません。1カ月におよぶ旅もそろそろ終わりに近づいていますが、今回の旅の目的は、シリコンバレーから抜け出し、外部にいるさまざまな人と話し、私たちのシステムに何を求めるのか、何が役に立っていて、何が役に立っていないかを聞くことです。今後取り組まなければならない改善点でノートが埋め尽くされました。その中には、著作権のリスクを軽減するためのアイデアも含まれているので、今後改善を図っていきたいです。

法的・倫理的なリスクの軽減に向け、他企業との協業も視野に

──AI革命をもたらし、AIを世界に知らしめたプラットフォームの創立者の1人として、「AIの失敗」というシナリオが起きた場合、どのくらい責任を感じますか？

「どのように」失敗するかにもよりますが、それがどんな形だとしても、私たちは大きな責任を負っています。他社がOpenAIの安全基準に則さないものを開発したとしても、私たちは「より安全なものをもっと早く開発できていたら」と感じるでしょう。

私たち自身が失敗したら、ひどく後悔すると思います。先ほど言ったとおり、どのように失敗したとしても大きな責任を感じますが、その中で私たちがどのような役割を担っているかにもよります。現時点で、AI技術を良い方向に進歩させてきたことについては誇りを持っています。

私たちが現在手がけている社会とのアラインメント（接続）と貢献は評価できるものだと思いますが、まだまだ目の前にははるかに長い道のりが続いており、さらに研究を進めていかなければなりません。OpenAIは、AI技術を開発している数多くの企業の1つにすぎませんが、業界全体にポジティブな影響を与えられるように、私たちにできる限りのことをしていきたいと考えています。

また、多くの場面で他の企業との協働が必要になるでしょう。今回の旅の目的の1つは、私たちが世界規模で必要だと考えていることについて、世界のリーダーたちと話すためです。旅の初めは、短期間でグローバルな協力体制を得られるか、 実存的リスクを大幅に軽減することができるかどうかに懐疑的でした。しかし、旅も終盤に差しかかった今、これについて非常に前向きに考えられるようになったので、これは大きな収穫だと思っています。

さまざまな人が倫理的状況にフィードバックすることが大切

──ChatGPTが、さまざまな国や文化に基づいてどのように倫理的基準を評価したかについて教えてください。

私たちは長い間、ChatGPTのモデルと各種基準のアラインメントが可能かどうか全く分かりませんでした。そこで「人間のフィードバックからの強化学習」という手法を開発したところ、驚くほどうまく機能したのです。GPT-4のアラインメントのレベルを見ると、前のモデルに比べて進歩していることがわかります。技術的にはこれが可能になりましたが、将来的なモデルにはまた新しい手法が必要になります。さらに言えば、「誰のバリューにモデルを合わせるのか？」という、より難しい問いも生まれます。

これはOpenAIが決め、説明書を書くべきものではありません。また、私たちは研究に興味があり、新しいアイデアを試したい人に助成金を付与する新しいプログラムを開始しました。もちろんOpenAIにも自社のアイデアがありますが、もし実現したら素晴らしいと思うのは、地球上のすべての人が何日かかけてChatGPTと会話をし、さまざまな倫理的状況について、「私はこう思う」「私はこう」といった考えをフィードバックすることです。

そうすれば、ChatGPTが「あなたは〇〇という回答をしました。あなたとは大きく異なる考えを持つ人は、このような視点を持っています」というように、さらに会話を発展させることができます。別の人の視点を見た後、もとの考えを維持するのも、考えを変えるのも完全にあなた次第です。それに加えて、各国の法律と法的権限により、社会の集合的価値選択について学ぶことができます。文書化はできないと思いますが、学ぶことは可能でしょう。

方法はいろいろあります。システムが何をするべきか、しないべきか。さらには何がデフォルトかを考え、その中で、国やユーザーに応じて変えることができます。私たちはそのような方向に進んでいると思います。

安全性の確認と開発スピードの担保、バランスをどう取るべきか？

──ChatGPTについての最大の問題は、リスクを考慮する人が多ければ多いほど開発スピードが遅くなり、逆に考慮する人が少なければスピードはアップするもののリスクが高くなるということだと思います。将来的には、このバランスが重要になると思います。最近読んだ日本語の記事では、OpenAIさんがリスクの軽減に取り組んでいると書いてありました。OpenAIがどれくらいリスクの軽減について構想しているのかお聞きしたいです。

素晴らしい質問ですね。人々が恩恵を受けられるように素早くアクションに移すことと、重要な懸念点に対応することのバランスをとる最善の方法は、優れた安全システムのエンジニアリングプラクティスに沿って開発を進めることだと思います。

OpenAI（と他社も同様に）は、モデルをリリースする前に整備しておきたいものを開発していきます。その1つが、将来の非常に強力なモデルに対するライセンスのフレームワークについての提案です。例えば、安全性テストや危険性評価など、実装前のトレーニング段階で合格しなければならない基準があります。これによって、開発のスピードがある程度落ちるかもしれませんが、やる価値のあることだと思いますし、そこまでの影響が出るとは考えていません。モデルの安全性を確認できなければ、開発のスピードを大幅に落とす必要があります。これは非常に重要なことです。

しかし、このバランスをとろうとすると、それに満足しない人も必ず出てきます。GPT-4のリリースには8ヶ月ほどかかりました。その間、周りから「早くリリースしてくれ」とたくさん言われましたが、私たちは準備が整うまではリリースしないと決めていました。

質問の後半について答えると、私たちはGPT-4の安全性をはるかに向上させることができたと思っています。GPT-3のアラインメントのレベルをGPT-4と比較すると、 大きな前進以外の何物でもないとは言い難いかもしれませんが、これに満足せずに、GPT-5とその先のモデルに向けて新しいメソッドを考えていくことが重要だと考えています。とはいえ、研究はカレンダー通りに進むものではないので、どのくらい時間がかかるかはわかりません。

「仕事は奪われる」かもしれないが、「新しい仕事」も生まれる

──今では誰もが、AIには多くの可能性があることを知っています。素晴らしい技術がスピーディーに進化していることを考えると、私たちを待ち構える未来にワクワクします。今後5〜10年でAIはどのようになると思いますか。人々は仕事を失うのでしょうか。それともより良い生活を送るようになるでしょうか？

おそらく、その両方でしょう。一部の職業はなくなると思いますが、同時に誰もがより良い生活ができるようになることを願っています。しかし、多くの人が言うような雇用への影響はそこまでないと思っています。今起きていることに注目すると、現在のChatGPTは「仕事」ではなく「タスク」を実行することに長けています。これから技術がさらに進歩して、「仕事」をうまくこなせるようになるのでは、と言われており、それは本当のことです。

しかし、私は「仕事」の定義がこれから変わり続けていくと思います。仕事をより大きな塊に分けて自動化することで、人はより高度で創造的なことをたくさんできるようになります。プログラマーはChatGPTを活用することで以前の2〜3倍（時にはそれ以上）ほど、生産的に仕事をしています。これが20〜30倍になったらどうでしょうか。私は、世界により多くの、より良いものが生まれると考えています。書くコードがなくなったり、新しいプロダクトが生まれなくなったりといったことはないと思います。

すでにプロンプトエンジニアという新しい職種も生まれています。今後時間とともに、新しい種類の仕事が生まれていくでしょう。また、私はほとんどすべての予想が外れていると考えています。私たちは、テクノロジーの最新情報を把握して、それがどのように進化しているかを見守らなくてはなりません。

しかし、歴史上の技術革新を振り返ると、新しいテクノロジーが登場した際はどんな時も「これによって人の仕事がなくなる」といった懸念が生まれますが、将来的な仕事がどのようなものになるかは予想とは異なるのです。人はいつでも新しいものを求め、創造性を表現して満足感を得たい、社会に貢献したいという欲求があります。将来の仕事がどのようになるかを今想像することはできません。ですが、人々にとって意味のある新しい仕事が生まれることは確かです。数千年前の人と話ができるとしたら、彼らも現代の仕事を見て「そんなものは本当の仕事ではない」と言うでしょう。

AIは高所得者よりも低所得者の助けになる

──AIは社会を作り変えていると思います。先ほどアルトマンさんが仰ったように、一部の仕事はなくなるかもしれません。しかし、ここにいる人たちは恵まれている人たちなので、その変化もきっと簡単に乗り越えられるでしょう。しかし、低所得国の貧しい人々はどうでしょうか彼らのために何ができると思いますか？

2つのことをお話しします。1つ目は、この技術革新はすべての人の生活の質を向上させ、特に貧しい人々にとって最も大きな助けになるということです。つまり、新たな技術によって認知労働や認知サービスのコストがどんどん下がり、現在低所得者にとって手が届きにくい優れた医療サービスについても、コストをほぼゼロにできれば、高所得者よりも低所得者の方がその恩恵を受けられるでしょう。

教育についても同じです。現在、高所得世帯は子どもに高い教育を受けさせることができますが、質の高い教育にほぼ無料でアクセスできるようになれば、低所得者世帯の生活は大きく変わります。この新しい形の技術は、かつてiPhoneがそうだったように、世界を均等化する原動力となるでしょう。

2つ目は、あなたが仰った仕事の移り変わりです。これがうまくいくかどうかは定かではありません。5〜10年前まで、専門家たちは「今後自動化が進めば、歴史的に賃金の低い職業の人にとって大打撃となるだろう」と言っていました。最初は肉体労働者が職を失い、次に認知労働の下層にいる人、中層の人、そしてプログラマーなどの高層の人たちが影響を受ける、と。これはその通りになるかもしれませんし、そうならないかもしれません。なぜなら、人には創造力があるからです。

もちろん、これとは全く逆の展開になる可能性もあります。何かを注文して街の反対側から家に届けてもらうという肉体労働への対価がものすごく高くなる一方で、iPhoneが7ドルで手に入るという世界になるかもしれません。将来的にどうなるかを予想するのは困難です。もしそのような状況になっても、この変化の衝撃を受け止めるクッションとして、ベーシックインカムなどについての議論はすべきだと思います。

また、AIのある世界では、社会経済的な取り決めが変わることはないと考えています。これまでと全く同じようにこれからも資本主義が続くとしたら、労働に比べて資本の流用が多すぎることになるでしょう。これについては何らかのことをしなければなりませんが、初めに話したように、AIは高所得者よりも低所得者の助けになると思います。

多くの企業が見逃していた可能性からChatGPTは生まれた

──ChatGPTが技術のブレイクスルーを実現した最も大きな要因は何ですか？

いくつかあります。ChatGPTは何世紀にもわたる人類の科学的進歩の産物であり、それが今この瞬間に結集しています。過去十数年間で超大規模コンピュータが開発されました。トランジスタが発明された当時を思い起こせば、想像を絶する数の大失敗がありました。これらに関わっていた人たち全員が、今日の技術が現実のものになるとは思いもしなかったでしょう。

ハードウェアとシステム、そしてプロセスそのものだけでなく、ネットワーキング、発電する電力……これらすべてが揃わなければ、ハードウェアは機能しません。これは（これが可能になったことは）人類の勝利とも言えるでしょう。

また、私たちのずっと前にニューラルネットワークや最急降下法などの素晴らしいアイデアを考えた人たちがいます。OpenAIのある研究者は、言語モデルに取り組みながら「Unsupervised sentiment neuron」という論文を書きました。

彼はある非常に興味深いことに気付き、それを注意深く観察し、視覚化しました。Amazonのレビューテキストを1文字ずつ生成している時、ある1つのニューロンが、テキスト内の肯定的な感情と否定的な感情を区別していたのです。ほとんどの人はそれを見逃していたと思います。当時の多くの企業も、その可能性と意味を見逃していたでしょう。

その発見から私たちは研究をさらに進め、GPT-1を実現することができましたが、ほとんどの会社はGPT-1を見ても「それほど優れたものではない」と言っていたと思います。

私たちはさらに研究とスケーリングを重ね、GPT-2、GPT-3、GPT-4と進化する度に自信を深めていきました。これを成し遂げられたのは非常に厳格な研究文化、数人の素晴らしい個人の洞察力、そして「個々のプロジェクトをストップして、みんなでこの重要なことに取り組み、できる限り推し進めよう」というチームワークで団結した仲間がいたからです。

革命の恩恵を受ける絶好の機会、「ChatGPTを触ってみてほしい」

──日本では、ChatGPTをビジネスの効率化に活用するというよりも、特にインターネットにおいて、まるで人間とやり取りしているようなバーチャルな会話を楽しんでいるという傾向があります。娯楽中心のジェネレーティブAIの使用についてどう思いますか？

人々がそうしたい思っていて楽しんでおり、それが役に立っているのならば、私はそういった使い方に非常に肯定的です。ChatGPTの使い方を決めるのは私たちではありません。また、技術としてまだ初期段階にあるものなので、人々はそういった使い方をしながら慣れていっているのではないでしょうか。今は会話中心で楽しんでいる人も、その使い方が分かれば、その後ビジネスや生産性向上のために活用することができます。それは素晴らしいことなので、私たちは嬉しく思っています。

いま話していて改めて思ったのですが、（大学生など）若い世代の人たちはChatGPTがもたらした技術革命の恩恵を受けるのに絶好の年齢だと思います。こういった機会は滅多にありませんし、この強力なツールがある時代にキャリアをスタートできるのは非常に有利だと思います。

みなさんは今、いろいろな方法でChatGPTを使うことに慣れ、その使い方を学んでいることでしょう。どのように使っているかにかかわらず、その経験は将来必ず役に立ちます。みなさんはまたとない機会に恵まれた幸運な世代ですから、私だったら自分の人生設計やテクノロジーをどのように利用するかについては深く考えすぎないと思います。

まずはChatGPTに触れて精通する、そしてChatGPTについて考える。その後はChatGPTを使って今までにない方法で生産性を向上させるといったように、使い方に関係なく大いに活用していただきたいです。そのためにも、まずはChatGPTに触れてみてください。