Developmental Bootstrapping of AIs

要約

現在の一部の AI は、特にボードゲームなどの閉じられた人工世界では人間の能力を超えていますが、現実世界での能力には限界があります。
彼らは奇妙な間違いをしますが、それに気づきません。
彼らは簡単に指導することができず、常識を働かず、好奇心が欠如しています。
彼らは良い協力者にはなりません。
AI を作成するための主流のアプローチは、従来の手動で構築されたシンボリック AI アプローチと、大規模言語モデル (LLM) を含む生成および深層学習 AI アプローチを使用して構築されます。
これらのシステムは、堅牢で信頼できる AI の作成にはあまり適していません。
主流からは外れていますが、開発ブートストラッピング アプローチにはさらに有望なアプローチがあります。
発達ブートストラップでは、AI は人間の子供と同じように能力を開発します。
彼らは生来の能力から始まります。
彼らは環境と相互作用し、その相互作用から学びます。
彼らは、自ら開発した能力によって、生来の能力を徐々に拡張していきます。
彼らは人々と交流し、そこから学び、知覚的、認知的、共通の基盤を確立します。
彼らは、段階的なブートストラップ プロセスを通じて必要な能力を獲得します。
しかし、発達ロボット工学では、成人レベルの強力な能力を備えた AI はまだ生み出されていません。
プロジェクトは通常、人間の幼児が流暢に話すようになる前の、約 2 歳の幼児の発育に相当する幼児バリアで停止します。
また、LLM を強化するために社会的に開発された膨大な記録情報リソースを巧みにかつ懐疑的に利用するために、読書の壁を越えることもありません。
人間の認知発達における次の能力には、内発的動機づけ、模倣学習、想像力、調整、コミュニケーションが含まれます。
このポジションペーパーでは、さらなる能力を獲得し、堅牢で回復力のある AI を作成するために、開発ブートストラップの実践を拡張するためのロジック、見通し、ギャップ、および課題を説明します。

要約(オリジナル)

Although some current AIs surpass human abilities especially in closed artificial worlds such as board games, their abilities in the real world are limited. They make strange mistakes and do not notice them. They cannot be instructed easily, fail to use common sense, and lack curiosity. They do not make good collaborators. Mainstream approaches for creating AIs are built using the traditional manually-constructed symbolic AI approach and generative and deep learning AI approaches including large language models (LLMs). These systems are not well suited for creating robust and trustworthy AIs. Although it is outside of the mainstream, the developmental bootstrapping approach has more promise. In developmental bootstrapping, AIs develop competences like human children do. They start with innate competences. They interact with the environment and learn from their interactions. They incrementally extend their innate competences with self-developed competences. They interact and learn from people and establish perceptual, cognitive, and common grounding. They acquire the competences that they need through an incremental bootstrapping process. However, developmental robotics has not yet produced AIs with robust adult-level competences. Projects have typically stopped at the Toddler Barrier corresponding to human infant development at about two years of age, before their speech is fluent. They also do not bridge the Reading Barrier, to skillfully and skeptically tap into the vast socially developed recorded information resources that power LLMs. The next competences in human cognitive development involve intrinsic motivation, imitation learning, imagination, coordination, and communication. This position paper lays out the logic, prospects, gaps, and challenges for extending the practice of developmental bootstrapping to acquire further competences and create robust and resilient AIs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google