Beyond AI Logo

脳情報再現による次世代AI開発プロジェクト Development of next generation AI by modeling brain information

構成メンバー

People

研究リーダー Project Leader
大木 研一 教授 Kenichi Ohki Professor
東京大学 大学院医学系研究科 Graduate School of Medicine, The University of Tokyo
研究者 Researchers
  • 合原 一幸 特別教授 Kazuyuki Aihara University Professor
  • 中山 英樹 准教授 Hideki Nakayama Associate Professor
  • 根東 覚 特任准教授 Satoru Kondo Project Associate Professor
  • 松井 鉄平 講師 Teppei Matsui Senior Lecturer
  • 吉田 盛史 助教 Takashi Yoshida Assistant Professor
  • 村上 知成 助教 Tomonari Murakami Assistant Professor
研究員 Ph.D. Researcher
西尾 奈々 Nana Nishio 安田 裕之 Hiroyuki Yasuda
研究生 Research Student
Jan Zdenek Jan Zdenek 幡谷 龍一郎 Ryuichiro Hataya 菊田 浩平 Kohei Kikuta 岸野 文昭 Fumiaki Kishino 李 鋭祥 Ruixiang Li

Events

Events

ビデオ

Movie

課題

Challenges

人工知能の誤認識のリスク Risks of Misrecognitions by AI

現在の人工知能を用いた画像認識では、原理的に誤認識が起こる可能性が避けられません。
例えば、人間には明らかにパンダと見える絵に、わずかなノイズを加えるだけで、全く別の物体と誤認識することが知られています。近年、深層学習を用いた人工知能の発展は著しく、人間に近い性能で物体の認識を行うことができるようになってきており、今後、さまざまな分野で人工知能の活用が期待されます。しかし、例えば自動運転や医療画像の診断のような分野では、このような誤認識は人の命を左右する事態になりかねず、致命的な欠点になります。

The risks of misrecognition are, in principle, unavoidable in existing image recognition technologies using artificial intelligence (AI). For example, AI is known to falsely recognize a picture that apparently looks like a panda to humans for something completely different when a small amount of noise is added. The recent years have witnessed the remarkable development of AI using deep learning. AI has been increasingly able to recognize objects at performance levels close to those of humans and is expected to be applied to a range of areas. However, such misrecognition errors pose as a fatal drawback that can affect human lives in fields such as autonomous driving and medical image analysis.

研究の内容

Details of Project

頑強かつ柔軟な人工知能の開発 Development of Robust and Flexible AI

本研究では、脳で実際に行われている情報処理を人工知能上に再現することにより、誤認識をしない頑強かつ柔軟な人工知能の開発を目指しています。
上述のような人工知能の誤認識の可能性をなくすためには、私たち人間を含む動物がどのように目で見た視覚情報を処理しているのかを解明することが役立つと考えています。すなわち、脳で実際に行われている情報処理を解明して、これを人工知能上に再現することができれば、現在の人工知能の原理では得られない、誤認識をしない頑強かつ柔軟な人工知能の開発が期待されます。
このため、本研究では、大脳皮質の多数の領域にある細胞の神経活動を網羅的に計測し、計測した脳活動を人工知能に再現することにより、現在の人工知能の原理では得られない頑強かつ柔軟な人工知能の構築を目指しています。

In this research, we aim to develop robust and flexible AI preventing misrecognition errors by reproducing in AI the information processing carried out by our brain. The elucidation of how animals, including humans, process visual information may prove useful for eliminating any risks of misrecognition by AI as described above. This means that if we can elucidate the information processing actually performed in the brain and reproduce it in AI, we may be able to develop robust and flexible AI preventing misrecognition, which is unrealizable by the current principle of AI.
To this end, this research aims to comprehensively measure the neural activity of cells in many regions of the cerebral cortex and reproduce the measured brain activity in AI to build such innovative AI.

【1】大脳皮質の神経活動の網羅的な計測 [1] Comprehensive measurement of neural activity in the cerebral cortex

研究チームでは、大脳皮質の多数の領域にある細胞の神経活動を網羅的に計測する技術を開発してきました。
私たち人間を含む動物の脳における視覚情報の処理は、大脳皮質の多数の領域で、階層的に行われていることが知られています。このため、脳で実際に行われている情報処理を理解するためには、脳の特定の領域における情報処理に加えて、領域間の情報処理を把握することが重要です。
研究チームは、「二光子カルシウムイメージング」という、生きた動物の脳内の神経細胞の活動を、二光子顕微鏡という特殊な顕微鏡を用いて観察する技術を独自に開発してきました。この方法を用いると、数ミリ四方の範囲から数万個以上の 1 個 1 個の細胞の活動を観察することができます。
本研究ではこれらの技術をさらに発展させ、大脳皮質の多数の領域にある細胞の神経活動を網羅的に計測することを目指します。

Our research team has developed a technology to comprehensively measure neuronal activity in cells in multiple areas of the cerebral cortex. It is known that visual information processing in the brains of animals including humans is performed hierarchically in many areas of the cerebral cortex. To understand the actual mechanisms of the processing in the brain, it is important to investigate such mechanisms in specific regions and between different regions of the brain.
Our team has developed a unique “two-photon calcium imaging” technique for observing the activity of neuron cells in the brain of living animals using a special two-photon microscope. Using this method, we can observe the activity of tens of thousands of cells in an area of several millimeters square, even the activity in each cell.

In this research, we aim to further develop these technologies and measure the neural activity of cells in many areas of the cerebral cortex more comprehensively.

【2】神経細胞の活動を人工知能上に再現 [2] Reproduction of neuron cell activity in AI

研究チームではまた、さまざまな画像に対する視覚野の神経細胞の活動を深層ニューラルネットワークに写し取ることで、神経細胞の活動をコンピュータ上で詳細に解析する手法を開発してきました。
具体的には以下のようなステップで、神経細胞の活動を解析することができます。(1)動物に見せた画像と同じ画像を深層ニューラルネットワークに入力し、その画像に対する神経細胞の活動を教師信号として、深層ニューラルネットワークに画像に対する神経細胞の活動を学習させます。(2)このニューラルネットワークの出力をなるべく大きくするような画像をコンピュータ上で生成することによって、このニューラルネットに写し取った神経細胞の反応特性を推定します。具体的には、まずランダムなノイズ画像を用意し、その画像に対するニューラルネットワークの出力をより大きくするように画像の輝度値を更新します。その更新された画像に対して、ニューラルネットワークの出力をより大きくするように、再度画像の更新を何度も繰り返すことにより、ニューラルネットワークの出力を最大にする画像をコンピュータ上で生成しました。出来上がった画像は、このニューラルネットに写し取った神経細胞の活動を最大にするような画像であり、神経細胞の反応特性を示していると推測されます。
研究チームは、この手法をマウス一次視覚野の神経細胞の解析に適用することで、さまざまな一次視覚野の性質を説明できることを示しました。上記の方法で大脳皮質の多数の領域にある細胞の神経活動を網羅的に計測したデータにこの手法を用いることにより、脳の階層間での情報の抽出、分析、統合を網羅的に解析することを目指します。さらに、これらの視覚情報処理を担う神経細胞の活動を人工知能上に再現し、従来の人工知能では使われていなかった神経活動のゆらぎや、トップダウン結合・再帰性結合を含めて、人工知能上に写し取ることにより、現在の人工知能の原理では得られない頑強かつ柔軟で動的な脳型の人工知能を構築することを目指します。

Our research team has also developed a technique for analyzing the activity of neuron cells in detail on computer by copying the activity of neuron cells in the visual cortex from various images onto deep neural networks.
Specific steps for analyzing the activity of neuron cells include: (1) Input the image shown to an animal into the deep neural network, and have the network learn the activity of neuron cells, taking the activity responding to the image as teaching signals; and (2) on a computer, generate an image where the output of the neural network has been maximized to estimate the response characteristics of the neuron cell responses copied to the neural network. Specifically, prepare a random noise image and update the brightness value of the image so that the output of the neural network for that image becomes larger. Repeat the updating process several times to maximize the output of the neural network. The finally updated image maximizes the activity of neuron cells copied to the neural network and is presumed to indicate the response characteristics of the neuron cells.
Our team has demonstrated that the technique can be applied to the analysis of neuron cells in the mouse primary visual cortex to explain the properties of various primary visual cortex. Applying the data obtained by measuring the neural activity of cells in many regions of the cerebral cortex using the technique, we further aim to comprehensively analyze the extraction, analysis, and integration of information between layers of the brain. Furthermore, by reproducing the activity of the neurons responsible for these visual information processing on artificial intelligence, and by copying the fluctuation of neural activity, including top-down and recursive connections, which have not been used in conventional artificial intelligence, onto artificial intelligence, we aim to construct a robust, flexible, and dynamic brain-type artificial intelligence that cannot be obtained with current artificial intelligence principles.

価値・期待

Values / Hopes

本研究プロジェクトが切り開く未来の可能性 Future Possibilities Created by This Project

本研究が目指す人間の脳機能を実装した人工知能は、現在の人工知能とは原理的に全く異なるものであり、極めて広範な産業分野に影響を及ぼすと期待しています。
従来は原理的に不可避だった誤認識が生じないため、例えば、医療現場でのX線、CT、MRIなどの画像診断や、病理組織診断に応用することにより、万が一の場合の診断ミスを防ぐことができます。また、自動運転に適用しても誤認識に起因する致命的な事故につながるおそれがありません。
さらに、この研究成果を活用するにより、人の表情から感情を認識することが将来的に可能になれば、家事や介護などの対人サービスの分野でもこれまで以上に人に寄り添ったサービスを提供できるようになると期待しています。
上記の例に限らず、本研究は、現実社会のより複雑な状況に応用可能な人工知能の新たな可能性を切り開くものだと信じています。

The AI equipped with human brain functions is the target of our research. It is completely different from present AI in principle and is expected to contribute to a very wide range of industries.
Since misrecognition, which has been unavoidable from the principle of existing AI, can be avoided, our innovative AI can be applied to, for instance, diagnostic imaging such as X-rays, CT, and MRI, and to histopathological diagnosis in the medical scene, thereby preventing possible diagnostic errors. Furthermore, its application to autonomous driving will be unlikely to cause fatal accidents resulting from misrecognition.
It is hoped that the results of our research will also one day enable AI to recognize emotions from human facial expressions. If this is the case, more person-focused services will be provided in the face-to-face area such as housework and nursing care.
In addition to the aforementioned examples, we believe that our research will open up new possibilities for AI that can be applied to more complex situations in the real world.