그동안 알파고가 바둑을 두는 것을 관찰해 보니 구글이 알파고에 적용한 인공지능 방법론은 다음과 같은 두 가지 약점을 보이게 되는 것 같습니다.

일반화의 오류, 그리고 이 오류로 인해 나타나는 일반적이지 않은 특이한 상황에 대한 대응 능력 부족.

아마도 현재의 딥러닝 + 자가학습을 통한 추상화는 일반화에 특화되어 있는 것으로 보이지만 이 일반화라는 것에만 특화되다 보니 인간으로 치면 '지나친 편견을 가진 사람'과 비슷하게 되는 것 같습니다(평균값 집착증이라고 표현할 수도 있을 것 같고요).
물론 이게 대체로 큰 장점으로 작용하긴 하지만 편견(지나친 일반화)으로 인해 무시하게 되는 정보들이 발생(그리고 이들 중에는 바둑으로 치면 '신의 한수'같은 중요한 정보도 포함될 수 있습니다)하고 이로 인해 돌발상황(일반적이지 않은 상황, 평균값에서 벗어난 상황, 지나친 일반화를 통해 무시하게 된 정보들, 버렸던 정보들 중에 신의 한수 같은 중요한 정보가 포함된 상황)이 발생하면 그에 대한 대처를 하는 학습을 하지 않은 탓에 알둥지둥^^하게 될 수 있다는 생각이 들더군요.
그래서 어떻게 보면 안전을 책임져야 하는 상황에서 작동하는 인공지능(이를테면 무인 운전 인공지능)에 알파고에 적용된 알고리즘을 적용하게 되면 돌발상황에 대한 대처가 약하기 때문에 그대로 사고로 이어질 수도 있다는 생각입니다.
그래서 구글이 무인 운전 인공지능을 테스트하다가 인공지능의 실수로 사고가 난 것이 아닌가 하는 생각이 들고요.
따라서 현재의 인공지능을 보완할 수 있는 방법에 대한 연구가 필수적일 것 같습니다(제 생각에는 만일 이게 만만치 않은 일이라면 이 분야에 특화된 기술을 가진 기업을 만들면 대박날 것 같다는 생각도 언뜻 들기도 하네요).
그리고 이것은 일종의 버그로도 볼 수 있기 때문에 이에 대한 해법을 찾지 않은 채로 인공지능을 안전과 관련된 분야나 돌발 상황 거의 발생하지 않는데 한번 발생하면 심한 손해나 손상을 입을 수 있는 분야에 적용한다면 언젠가는 필연적으로 안전 등에 큰 문제를 일으킬 수밖에 없다고 봅니다.
따라서 현재의 알파고에 적용된 인공지능 기술은 '통제가 잘 되는 상황'에만 국한해서 적용할 수 있는 아직은 일반화될 수 없는 기술이라고 볼 수 있다는 생각입니다.
만일 이러한 단점(일반화에만 집착해서 편견을 가질 수밖에 없는 인공지능)을 보완하게 된다면 '통제가 잘 되지 않는 상황'에서도 적용되는 일반화된 기술로 적용할 수 있어 신세계가 열릴 것 같고요.




여담으로... 이런 기술로 발전된다면 바둑의 신이 되는 것도 가능할 것 같다는 생각입니다.
그리고 이렇게 하려면 제가 지금은 일반화하면서 버리는 것 같다고 생각하고 있는 데이터를 활용하는 게 키가 될 수도 있겠다는 생각도 함께 드네요.
그런데 이게 그렇게 어려울 것 같지는 않고... 아니... 어려울까요? ^^;