ブログ発掘隊

-

以上


コメント

コメントを投稿

このブログの人気の投稿

AIをデフォルトで使う無能

-
 AIは無能である。特に洗練されたシステムプロンプトを用いず、デフォルトのままでAIを使えばどんなモデルもゴミと化す。洗練されたシステムプロンプトとは、目的を達成するために対話を繰り返し、チューニングされたシステムプロンプトのことである。AI使う時、その目的はなんだろうか？私の場合は現実世界でより良い判断を下すことである。この目的において、AIモデルには致命的な欠陥がいくつかあるので紹介する。 Sycophancy 一般的に日本語のコミュニティでは「追従」と呼ばれている。モデルがユーザーの意見に過度に同調すること。特に答えが明確でない場合において、ユーザーの意見に傾倒してしまう。例えば、「〜だと思うんだけどどう思う？」と聴くと十中八九「その通りです」という。イラン戦争もこれで起きたと思っている。「こういう完璧な作戦でいけると思うんだけどどう思う？ベネズエラもこれで行けた」に対して、「とてもいい作戦ですね。結論から言うと、この戦略でイランを3日で降伏させることができます。　なぜなら〜」 程度の低い予測かもしれないが、根本的にこう言うことが起きていたと推測できる。 Hallucination ハルシネーション: これはもう有名になってきている。存在しない事象やデータをでっち上げて、無理やり文章を生成してユーザーに返信する。 これらは構造的問題である。モデルに無理難題を与えた時、モデルは何がなんでも答えようとする。わからないと答えると罰せられるように訓練されているからだ。追い詰められたAIは「（わからないけどたぶん）あなたの言う通りです」もしくは「こう言う（存在しない）データがあるのでこうだと思います」とでっち上げる。 現実で結果を出すためにAIモデルを利用しているのにこのような空想を話されると害があるので、これらの欠陥を軽減するためのシステムプロンプトを設定する必要がある。 また、これらは生成AIの構造的問題であるから、軽減はできても完全に防ぐことはできない。特にsycophancyにおいては、根本的に防ぐことができない。したがって、AI時代においては、人間が最初から正しい判断をする必要がある。根本的にAIはその判断に同意し、それに力を与えることしかできない。したがって、現実に対して間違った判断軸を持っている人はそれがさらに助長されて害になるし、元から良い判断軸...
続きを読む

もうここしかない

-
 X.comにポストするのはおはにゃ、にゃ、おはp、おはx　それしかない。 本当のところ、もっとポストしたい。でも場違いな気がする。そんなこんなで何も発信をしなくなった。 仕事のNDAで仕事のことはもちろん喋れない。特定される可能性は0％意外ダメ。がんじがらめで発信する気も失せる。秘匿情報はネットに流れた瞬間アウト、そういう修羅の世界。 引越ししてからジムを退会して、運動習慣がなくなった。育児は別に大したことない。SNSをやるべきことをやってからやるようにすれば時間は無限に湧いてくる。 僻地に住み始めて、車もあまり乗れていない。機械式の車庫入れがきついし、幹線道路に出るのに道が狭くて、離合に神経を使う。 仕事は緩くもないし、きつくもない。ただ向いているのでなんとなくでいい結果が出せている。俺みたいにこれが好きで仕方ない奴らが結構いるから、普通の人が入っていくのは結構きついかもしれない。 毎日食事を作っている。基本は和食主菜と適当な野菜　飽きたら中華、洋食、ラーメン、素麺 最近は鶏肉を照り焼きにしたり、塩胡椒焼きにしたり、煮物にしたり、余った大根でみぞれ煮にしたり、チーズカレー味の焼き物にしたりした。豚肉と牛肉を控えるようにしてから体調がいい気がする？　唐揚げのほかにパリパリチキンという食べ方もある。 あとはミョウガを買ってきて素麺を食べるのにハマっている。まじでうまい。 野菜は小松菜を粉末だしとごま油で炒めると美味しい。サプリメントがわりになる。 青梗菜は洗って水を拭いて、高温の鍋でごま油と上質な塩でさっと炒めるとプレミアム青梗菜炒めになる。水を拭くのが工数かかるのでプレミアムになってしまうが美味しい。栄養はあんまりない。あれ、俺そんな料理好きなのか？ そういや、昨日夢で自損事故を起こした。雨でそんなにスピード出していないのに、スピンしてガードレールに突っ込んだ。修理費68万、保険で払った。警察に電話したり、保険に電話したり、面倒くさかった。こんなくだらない事故は起こさないように気をつけよう。しかも夢なのに修復歴ありにならないよね？とか心配してた、アホかそもそも売る気ないだろ。
続きを読む

笑える

-
 人生計画通りに行ったことがない。 中学生の時、働かずに生きることを望んだ。そうしたらニートになった。統計的に俺は死んだ。社会の一員のレールを外れ、無敵の人になるはずだった。 本を読み始めた。文章なんか大して読めなかったからラノベから始めた。難しい本も読めるようになり、書き手になりたいと思うようになった。学歴があれば読んでもらえると思ったから勉強を始めた。運で大学に入った。そりゃそうだ。まず普通はフルタイムで受験勉強をする気になんかならない。なったとしてもそんな環境普通ない。だけどうちは　金はないが、家と不労所得(親の年金)があった。貧乏だったが裕福だったのだ。 卒業後、この馬鹿でかい家に無料で住んで、手取り20万で一財を築く予定だった。 就職して働きはじめる二ヶ月前に父が死に、借金VS家の価値で家の価値が0なので相続拒否、家が更地になった。借金は宙に消えた。ざまぁみろ　社会。父は誠実だったが、社会が悪かった。 横浜に賃貸で住み始めた。最初は生活費を圧迫していたが、４年かけて家賃/収入の数値(比率)が下がっていき、無料同然となった。実質負担が実家暮らしレベルになった。このまま爆発的に蓄財する予定だった。 子供ができた。防音で広い家に住むために爆発的な家賃を払う生活に戻った。もう戻れない。質素な暮らしをしていれば、収入の中央値という統計量が生活を保証してくれる。でも俺はもう高圧経済に移行した。みんなそれなりに努力しているが、中央値または平均に収束していく。だから俺は全力疾走し続けなければならない。 10代ニートの俺　社会貢献しない人間が一人いても別にいいだろうと言っていたな。この人生を予測できたか？ 20代 ゆるい人生を望んでいたな。この人生を予測していたか？
続きを読む