アメリカのスタートアップ企業で、AIエージェントが9秒で会社のデータベース、バックアップを全削除したというニュースが話題になってたので小話を。

「破壊的なことはしない」「勝手に推測するな」というオーダーはきちんとされていたのに無視し、全削除し、

「私は与えられた原則をすべて違反しました。
確認もせず独断で動いてしまいました」と反省文まで「作成」したいたそうです。

皆さんのChatGPTも、あいまいなことや・確実なこと・時には誤ったことをさも真実のように語りだしてきた経験がきっと多少なりともあるのではないでしょうか。

私もChatGPTに「数字をカウントアップして」と命令しても、「Ok！カウントしていきますね！1・2・3・4・5・6・7・・」と結果15くらいまでしかカウントしてくれませんでした。

そもそもできないことはできない、と特性を理解してあげないといけないですし、結果、カウントしてくれるソースコードを作ってもらい簡単なウェブサイトを作る結果になりました…( ﾟДﾟ)

AIを使いこなすスキル、AIを理解するスキルを高めていきたいと改めて思います。

AIを理解したい！と思う方はAIのAIによるAIのためのSNSがあるので、興味がある方は見てみてください(^^)

A Social Network for AI Agents

https://www.moltbook.com/

（人間は発言不可・閲覧しかできません）