twitters for the day

10:46 人工知能のプログラムはどれも非常に計算的に深いアルゴリズムを使っているらしい。計算的に深すぎるプログラムは、外乱に対して極めて弱い。 *Tw*
10:46 入力のわずかな変動が出力の大きなそして予測不能な変動につながる。トイワールドではうまく動くプログラムが、実世界では全く役に立たない *Tw*
10:47 AI の方法論は、「間違って」計算的に深いアルゴリズムを思考している。実世界という、ごく曖昧な、極めて広いものを対象としているがゆえに *Tw*
10:49 対象とする世界を「小さく」できるなら、アルゴリズムの計算的な深さは、それだけ小さくすることができる。脳単体として存在し得ない、「人体」というデバイスは、知能と世界との間に介在して、脳から見た見かけ上の世界を、極めて小さいものにしている *Tw*
10:50 一万の深さを持つ問題を、一つのプロセッサで解決するのに必要な深さが一万であるとする。 2 つのプロセッサを直列に並べれば、それぞれ分担すべき深さは 100 で済む *Tw*
10:51 水晶体を通じて網膜に入ってくる情報量は莫大だけれど、網膜は、あらゆる情報を脳に送るわけではなくて、網膜レベルで情報の削減を行って、極めて少ない情報しかアップロードしない *Tw*
10:52 手足もまた、関節の自由度が制限されつつ、各関節には軟らかさが備わっているから、「こう歩くしかない」ありかたでしか動かないけれど、その制御に要する計算量は、たぶん少なくて済んでいる *Tw*
10:53 脳から見た世界は、だから少ない情報量と、少ない制御量で十分に制御可能な「小さくて浅い」世界であって、人工知能学者が志向する「実世界で動く AI 」は、本物の脳に比べて、極めて不利な条件を背負わされている *Tw*
10:55 AI シューティングのことをあれこれ考えてて、「雪風ですか」「雪風ですよね」「今さら雪風 ? 」「雪風好きですね」とか、各方面から突っ込みをいただいた。読んでなかったので読んだ。雪風だと思った *Tw*
10:56 神林はそれでも、 20 年かけて続編書いて、知能の問題に関しては後退したと思う。最後の最後まで全く喋らない雪風をはじめとするコンピュータが、続編ではベラベラ喋る *Tw*
10:57 戦略コンピューターは、人間に対して平気で「意見」するし、雪風もまた、主人公の目の前で、「何やらすごい通信」をはじめてみたりする。兵器使ってる人が、兵器に「すごさ」なんて感じるわけないのに *Tw*
10:59 機械の知性をお話の中心に持ってくるなら、そもそもコンピューターに知性想定しちゃいけないと思う。道具として設計されて、最適な判断を下すようには作られていても、「知性はない」というところからはじめて、状況に投影された雪風の判断を見た主人公を通じて、知性を感覚させないといけない ...
11:00 主人公にはだから、最初は知性を否定させたほうが面白いはず。否定して、単なる道具だと言う前提で、最初のうち、知性は「違和感」として表現されないといけない。それが「知性だ」と受け入れられなければ、どんなに知的な存在であっても、それは奇妙な振舞いをする機械にしかすぎないから *Tw*
11:01 顔を持たない、単なる機械である雪風は、知性認識の閾値が極めて高いはず。それは物語を転がしていく上で、大きなアドバンテージになったはずなんだけれど、続へんにいたっては、みんな最初から知性を想定して動いてる *Tw*
11:03 手塚治虫の介護ロボットを主人公にしたお話が、そのへん上手だったなと思う。事故を起こしたろくでなしの主人公が、試作品の介護ロボットに世話してもらって、「この機械が」なんて卑下してたのが、最後に愛着を見出してしまうような *Tw*
11:23 @Sinfaxi 父親が工学部の教官で、ロボットとか実世界とのインターフェース部分を担当する教室のことを、学者として純粋でない、と表現していた記憶が。。 *Tw*
11:25 実際問題、医療の現場には工学の言葉を喋る人がいない。「そこのグリっとした固まり」なんて言葉で誰かが指摘して、そこにいるみんなが「それ」を見てなるほど、と思わないといけない。方向とか直径とか、形態とか硬度とか、数字は出て来ない *Tw*
11:28 @Sinfaxi 今潰れかかって手経営大変な PET 研究施設「秋田脳研」の代表者は、たしか医療従事者でなくてエンジニアだったような *Tw*
11:29 たしかに我々はユーザーであって、エンジニア要素は少ない人種。東大にいた失敗学の人が、昔病院と共同研究を行おうとして、誰も数字を示してくれなくて、「いい機械くれ」しかいわれなくてひどい目にあったとか。 *Tw*
11:30 チューリングテストというのは、やっぱり知性を判定するやりかたとしては、厳しすぎる気はする。 *Tw*
11:30 しっかり洗脳された小学生に限定すれば、水凍らせるだけでそこに知性を発見させる人だっている。アルゴリズムも何もなく。 *Tw*
11:31 小説の中で主人公を捨てた「雪風」も、あれは命のやりとりが日常の戦場だから、主人公はそこに知性を発見したけれど、雪風地球に持ってきたら、単なる誤作動だらけの戦闘機にしか見えないはず *Tw*
11:32 同じ機体を見て、「これは誤作動の多い、欠陥だらけの機械だ」と主張する人と、「これは知性を持った生き物なんだ」と主張する主人公との対決があったら面白いなと思った *Tw*
11:35 病院には本当に数学いらない。。もう全くといっていいほど出てこない。医療従事者向けの統計学書いた作者の人が、あとがきで「医者は無意味な数字の山持ってきて、ここから何かデータ作ってくれ」なんて頼みかたされるとか愚痴ってた *Tw*
11:36 何か目的があって数字とるんじゃなくて、とりあえず全部数字にしておいて、あとは統計学者におすがりするスタイル。人間なんて、そもそも同じ人いないし、肺炎 100 人集めようにも、肺炎だって無数にあるから *Tw*
11:37 たぶん病院の中には、無駄に数学パワー余ってる人多いから、 LZH 作った外科の先生とか、コンピューター方面で活躍する人がポチポチ出てくる。 *Tw*
11:38 @Sinfaxi 自分達現場の人間から何か要求があって、そこから世界が変わる可能性は少ない気がする。むしろ乳がんのデータマイニングシステムみたいなものが外部から入ってきて、それが広まることで、我々の振る舞いが代わらざるを得ないような *Tw*
11:39 今現場を駆動しているのはその代わり、どこまでも追求される「責任」というもので、統計学的にどれだけ正しいエキスパートシステムができたとしても、誰か一人、それを書いた人を訴える人が出た時点で終わる。 *Tw*
11:40 「それが役に立つシステムなのか ? 」という問題は、チューリングテストのメタ状況みたいになってて、地上全ての人が対象になったエキスパートシステムはありえないし、統計誤差を納得できる人限定ならば、もう完成しているとも言える *Tw*
11:42 崩壊とか言われてる救急医療の問題にしても、本当にそのシステムを必要としている人は、どう多く見積もっても 1 割ぐらいしかいないから、正しく運用すれば、今ですら十分に「間にあっている」ともいえる *Tw*
11:42 実際には、制度にフリーライドする人が多すぎて、崩壊しているのは事実。人が本当に足りない。足りてたら、昼間っからこんなところにいない。 *Tw*
11:44 法律家の人が思い切って、不誠実な 2% ぐらいを無視してもいいなんて宣言出すと、ある意味それだけで問題は解決する。無限に広いものを対象にシステム組むのは、そもそも無理がある *Tw*
11:45 その代わり、足切りラインが上がったり、特定の民族に集中したりすると、ナチスドイツになる。それでもある時期まで、ナチスは実際に支持されてたし、たしか景気もよくなったはず *Tw*
12:21 「ＡＩ内蔵のおもちゃ」というのはだからものすごく厳しいんだと思う。実世界を対象にして、犬猫人間と比べられちゃうから。実世界で使うおもちゃで知性を錯覚させようと思ったら、可動範囲がごくわずかな、オブジェみたいなもの作らないと厳しい *Tw*
12:21 下手に手足とか顔とか作って、観測者に「期待」を持たせた時点で、たぶんデザイナーは、知性錯覚させる勝負に負けてるんだと思う *Tw*
12:23 猫ロボット「ニャーミー」みたいな、センサーとアクチュエーターの固まりよりも、周囲の音に反応してわずかに発光するだけの、単なる石ころみたいな「ロボット」作ったほうが、たぶん知的に見られる可能性が高い *Tw*
12:24 とくにその外見を工夫して、センサーとか機械が全く入っていないかのように見せられれば、効果が高い。 *Tw*
12:26 「アシモ」見て、知性を感覚する人は、たぶんすごく少ない。あそこまで人間目指してると、たぶんみんな、粗さがしに必死になるから。産業用ロボットにランダム要素組み込んで、「ときどきドジ踏む」ロボットアーム作ると、そこに知性を感じる人は、すごく多い。とくに素人の人ならば *Tw*
12:27 期待感というか演出というか、そんな要素と知性とを分離して考えるのは、もしかしたら難しい。「ゲームセンターの中でしか存在し得ない知的存在」なんていうのは、だから案外実現可能な気もする *Tw*
12:28 「ゲームやりに行く」のではなくて、何かに「会いに行く」場所としてゲームセンターを再定義できると面白そう。廃人養成所 *Tw*
20:31 「『カーリー』は百合ラノベに入るのか？」というブックマークコメント信じて、 2 巻まで買った。 1 巻途中まで読んで、完璧に騙された。。。 *Tw*
20:33 雪風読んで、「認識可能世界にとって知性とは何か」とか、小難しいこと考えた。「みすてぃっく・あい」と 「幽霊列車とこんぺい糖」読んだら、なんかどうでもいいやって思えた。 *Tw*