Failure replication
2つのシステムが同じタスクをまったく異なる方法で成功することがあります。たとえば、飛行機は飛行に成功しますが、その飛行は鳥の飛行とは大きく異なります。逆に、2つのシステムが同じタスクを異なる方法で失敗する場合、このシステムが同じ方法で動作している可能性は低いと、現在の人工知能（AI）研究者には認識されています。しかし、AIの焦点は依然として、人間の成功の兆候と見なされるいくつかのタスクの再現に圧倒的に置かれており、文章の執筆やその他の言語に関連する能力、画像認識、画像生成などが含まれます。このようなAIがこれらのタスクで失敗するとき、人間とは大きく異なる方法で失敗することがあります。
工学と自然科学では、複雑なシステムの理解を深めるためのツールとして、意図的な失敗を利用しています。神経科学と心理学では、脳がどのように機能するかを理解する最も説得力のある方法の一つとして、脳がどのように失敗するかについて研究されています。脳の損傷、非合理的な意思決定、感覚の錯覚など、脳の失敗を引き起こす内部または外部の変化は、脳が成功する方法を見つける手段です。失敗は、神経科学を超えた複雑なシステムを理解するためにも使用されます。コンピューターソフトウェアのリバースエンジニアリング、動物の行動の理解、固体材料の同定などが含まれます。失敗は科学自体を定義する要素でもあります。仮説は「反証可能」である場合にのみ科学的と見なされ、それが反復的に失敗することができるかどうかが評価されます。
人工知能などの人工的なアプローチは、既存の生物学的システムを理解するだけでなく、それらのシステムのより忠実なモデルを構築するために、既知の生物学的ターゲットの失敗を使用してモデルを認証することができます。
最近の、視覚錯覚に関する研究では私自身の研究も含め、このアプローチを用いているものがあります。錯覚は感覚の失敗の魅力的な例です。これらは、私たちの脳内の独立したプロセスによって提供される情報の間に衝突があることを示します。他の動物種も視覚錯覚に惑わされることがあり、これは根本的な原因がある可能性を示唆しています。
神経ネットワークに基づく人工システムが特定の種類の視覚錯覚に惑わされ、さらには人間を惑わす自身の錯覚を作成できる事実（Sinapayen (2021)）は、生物学的および人工的なシステム間の共有された失敗点の良い例です。これらのネットワークのブラックボックス性質にもかかわらず、私たちの研究は、視覚環境と脳の画像予測能力との相互作用が視覚錯覚の根本原因である可能性を示しています。
Failure replication
Two systems can succeed at the same task yet succeed in completely different ways: planes are good for flying, but their flight is very different from bird flight. Conversely, two systems that fail differently at the same task are unlikely to be working in the same way, as is now recognized by Artificial Intelligence (AI) researchers. Yet, the focus of AI is still overwhelmingly on reproducing some tasks seen as hallmarks of human success: writing and other language-adjacent abilities, image recognition, image production. When AI fails at these tasks, it fails in spectacularly different ways than humans do.
Both engineering and natural sciences have embraced purposeful failure as a tool to deepen their understanding of complex systems. In neuroscience and psychology, one of the most
compelling ways to understand how the brain works is to study how it fails. Brain damage, irrational decisions, sensory illusions: internal or external changes that make the brain fail are how we find how the brain succeeds. Failure is used to understand complex systems beyond neuroscience: reverse-engineering computer software, understanding animal behavior, identifying solid materials... Failure even defines Science itself. An hypothesis is considered scientific if and only if it is “falsifiable”: if it can reproducibly fail.
Both engineering and natural sciences have embraced purposeful failure as a tool to deepen their understanding of complex systems. In neuroscience and psychology, one of the most compelling ways to understand how the brain works is to study how it fails. Brain damage, irrational decisions, sensory illusions: internal or external changes that make the brain fail are how we find how the brain succeeds. Failure is used to understand complex systems beyond neuroscience: reverse-engineering computer software, understanding animal behavior, identifying solid materials... Failure even defines Science itself. An hypothesis is considered scientific if and only if it is “falsifiable”: if it can reproducibly fail.
Recent work on visual illusions, including my own, provides examples of this approach. Illusions are a fascinating example of sensory failure: they reveal conflicts between the information volunteered by independent processes in our brains. Other animal species can also be fooled by visual illusions, suggesting a fundamental cause.
The fact that an artificial system based on neural networks can also be fooled by a certain type of visual illusion, and even create its own illusions that fool humans (Sinapayen (2021)), is a good example of shared failure point between biological and artificial systems. Despite the black-box nature of these networks, our research tells us that interactions between our visual environment and the image prediction abilities of our brains could be the root cause of visual illusions.
