実装についてちょっと考えてみる。

http://d.hatena.ne.jp/mkomiya/20031118/p1
ご指摘感謝。

「他の個体Aが食物Bを食べて嬉しそうな表情をした」
この観察結果をどう読み取るか、今までの同質の個体が複数集まっている社会ならば、それは食物Bがうまいかどうかの判断基準になる。

　いきなり、そこまでモデル化するのは難しすぎると思いますよ。

そうですね。順序を踏まないと。

言葉をとりあえず考えずに、動物でまずモデル化してみてはどうでしょうか？

動物は言葉を使うか使わないかと言う判断はともかく、元よりそのつもりでおりました。
ただ、おっしゃっているロボカップのようなものは、人工知能とか言うよりはオートマトンだと思うのです。オートマトンだと、そこには個体内での進歩も世代間での進化もあり得ないんですよね（少なくとも、最初の定義からは外れる。初期のオートマトンには、内臓された設計図を変更する機能は含まれていなかった、はず。うろ覚え）。
進化はともかく、進歩くらいは入れないと「人工知能」と銘打った意味がない。（「人工無能」かも）
それに、どんな動物も生存には複数の個体が必要で、それらが相互に影響しあわなければ社会は生まれないので、最初から複数の個体がいることを前提にします。

最初は「エデンの園」モデルを考えます。
無限に木の実が落ちている無限大のフィールド上に、アダムとイブがいて、二人は時間の経過や運動行為とともに腹が減り、腹が減れば木の実を食べ、と言うモデルです。
それに生殖を加えることができれば「エデンの東」モデルになります。
ついでに捕食者も加えたいところです。

行動と状態のノードの定義は後に譲るとして、まずは先に記憶システムをちょっと考えてみます。
これは最も低層のデータベース層での動きになるんですが、まず、全世界で何が起こったかを記録するテーブルを作ります。これを仮にアカシック・テーブルと呼びます（そして一つ一つのレコードのことをアカシック・レコード……失礼）。
それとは別に、個体毎の記憶を保存するテーブルを作ります。基本的に二つしかカラムのないテーブルで、個体のユニークIDとアカシック・レコードのユニークIDのみを記録します。
このメモリー・テーブルによって、「誰が何を知っているのか」を記録します。
「AがBを殴った」と言うアカシック・レコードは、AとBと、もしかしたらそれを目撃したCも知っています。
ですが、その場にいなかったD以降は知らないことなのです。
しかし、「AがDに「AがBを殴った」を伝えた」ならば、Dもまたそのアカシック・レコードを知ることができます。おっと、まだ言葉は考えないんでしたね。
「忘却」の要素を加える（メモリー・テーブルに、忘却フラグカラムを追加する）と時代が進み、さらに時代が進むと「錯覚」「記憶の変容」「嘘」の要素が記憶に加わってくるでしょう。