YouTubeばかり見て勉強をしない私はバカだと思うが、知らなかったことが知れて良かったと思っている。
勉強とは、知らなかったことを知ることであり、できなかったことができるようになることである。試験で良い点を取ることではない。なのでこれも勉強だ。
最近はこのような動画を見た。
なぜアフリカは依然として貧しいのでしょうか?
奴隷貿易をして人がいなくなってしまった。次に植民地になり、ヨーロッパの宗主国に国の運営を任せてしまった。工業製品もヨーロッパから輸入したほうが安かったため、国内の産業が育たなかった。独立後も植民地地代の仕組みが変わらなかった。アフリカ大陸は南北に長く、気候が厳しい（サハラ砂漠、風土病、寄生虫など）。同じ国でも異なる言語、習慣を持つ部族ごとに分断されているので、政治家は特定の部族に肩入れしたほうが当選しやすく、国をまとめられない、など。
しかし直近の数十年で経済成長は始まっていると。
この動画では解説されていないが、アメリカ人、ノーマン・ボーローグによる高収穫小麦品種の開発「緑の革命」により飢餓も減っている。
ChatGPT: 30 Year History | How AI Learned to Talk
ChatGPTはどのように動いているのか？私は知らなかったのでこの動画を見た。結局、ニューラルネットワークを大規模化したから「大規模言語モデル」と呼ばれているのか。だからこれを「AI（人工知能）」と呼ぶのはやめようよ。
なぜか？これはネットから吸い出した情報を下に、文の次に来る単語は何かを統計により算出しているだけだからだ。この仕組みでは、コンピューターは何も「意味」を理解しておらず、これを「AI（人工知能）」などと呼ぶのは技術音痴の証拠だ。だいたいcomputerとは「計算機」であり、計算機は計算しかしていない。
しかしコンピューターが意味を知っていようがいなかろうが、単に「計算」しただけの内容が文として意味があり、ユーザーにとって有用なのは驚くべきことだ。動画の最後の方で言語学者、ノーム・チョムスキーによるLLM批判と、更に別の学者によるチョムスキー批判などがある。
1990年代初頭、私はインターネットなど何も知らず、コンピューターを繋いだネットといえばアナログモデムでのBBSだけだった。当時BBSには誰かがアップロードした実行ファイルが沢山保存されており、その中で「ニューラルネットを使ったチャットシステム」みたいなものもあった。それがあまりにもおかしな返事しかしなかったので、当時は「人工無脳」などと揶揄されていた。
当時の私はニューラルネットなど、それが何であるかまったく理解していなかった（現在も理解できていない）。それが、仕組みはそのままでパラメータを増やしたり、つながりを深くするだけでChatGPTができてしまった。それが信じられなかった。実現するにはインターネットによる膨大なデータの収集と、それをまとめるための高速なプロセッサが必要だったので、「人工無脳」がChatGPTになるには30年の時間を要した、という次第だった。
コンピューターとは計算機であり、プログラマーとは現実世界の問題を計算問題に変換する作業を行う人種である、と誰かが言った。
言語という、それがなぜ発生したのかもよくわかっていない問題を、脳というこれまたよく解明されていない器官で処理すると、意識という解明されていない現象が出てくる。言語、脳、意識はまだほとんど解明されておらず、それが解明されていない事実は変わらないが、言語を単語で区切って次に来る単語を統計的に計算するとあら不思議、人間の役に立つツールができてしまった。
もう、ここで哲学的な議論はどうでもよくなった。人間は、計算によって役に立つツールを1つ、作ってしまったからだ。それは動画によると2010年代に入ってからのニューラルネットの飛躍的な進歩のおかげらしいが、私はそんなことなど全く知らずに2010年代を生きてしまった。2010年代半ば頃からAI、AIとまた騒がしくなってきたが、当時脚光を浴びていたのはディープラーニングによる画像認識だけが脚光を浴びており、それを産み出す元となった「トランスフォーマーベースのディープラーニングアーキテクチャ」というものはほとんど知られていなかったと思う。少なくとも私は聞いたことがなかった。そして教えられてもおそらく私は理解できないと思う。
昔、といっても30年前は「コンピューターが家庭に浸透することはない。ボタンが100個もある（キーボードのこと）製品は受け入れられないだろう」と言われていた。しかしPCは旧態依然のままだが、スマートフォンは受け入れられてしまった。ここでPCはユーザーインターフェースの問題を解決できず、タッチスクリーンや音声認識などで別のアプローチをしたスマートフォンは、人々の間に浸透した。
そのように、「脳の構造を人間が理解できないうちは人工知能などは作れない」と思っていたら、「新たな算法」で、知能ではないかもしれないが、有用なツールができてしまった。これが私にとって最大の驚きだった。
