[기고 :: 전용준 2016] 머신러닝과 인공지능에 대한 치명적 오해들

머신러닝과 인공지능에 대한 치명적 오해들

 

전용준 리비젼컨설팅 대표 xyxonxyxon@empal.com

 

초고: 2016년 4월 28일. IT DAILY 2016.05.

 

알파고가 불을 지폈다. 2016년 봄 마치 어느 날 갑자기 인공지능 세상으로 바뀐 듯 하다. 너도 나도 인공지능에 관한 자료를 찾고, 여러 세미나가 개최되며, 많은 기업과 공공기관들이 인공지능을 어떻게 도입하고 활용할 것인지에 대해 논의를 시작하고 있다. 그렇다고 보면 구글이 이세돌과 벌인 세기의 바둑대결 이벤트는 분명 대성공이었다. 지난 수년간에 걸쳐 빅데이터를 말로 무수히 이야기해왔음에도 불구하고 그 데이터로 무엇이 가능한지에 대해서는 알지도 또 알아도 믿지도 못해왔던 터에 마치 명확한 증거물을 제시하듯 알파고 이벤트가 벌어진 것이다. 사람들의 관심을 끄는 것은 직접 관련 산업계를 위해서도 학계를 위해서도 그리고 활용을 통해 그 수혜를 얻어야 하는 기업들을 위해서도 긍정적인 측면이 많다. 그러나 급작스레 이목이 집중된 인공지능 그리고 머신러닝 같은 이야기들에 대해 얼마나 실체가 잘 설명되고 이해되고 있는지는 짚어볼 일이다.

만일 수많은 실제와는 상당히 다른 부풀려진 이야기들로 인해 인공지능과 머신러닝이 전설이나 신화처럼 비추어질 경우 세간의 급격한 관심 폭증 만큼이나 급격하게 거품이 꺼지는 바람직하지 않은 과정을 겪어 기껏 조성된 분위기는 오히려 역효과를 낳게 될 수 도 있기 때문이다.

 

-      강한 인공지능이 아니라도 기관총 처럼 사람의 노동을 대체할 여지가 존재한다

사진출처: 위키피디아

 

 

[오해1] 딥러닝이 바로 인공지능이다

알파고가 초대형 이벤트를 벌이기 이전에도 관련업계나 학계에서는 딥러닝(Deep Learning)에 대한 관심과 연구가 상당히 급격하게 증가하고 있었다. 물론 국내에서도 마찬가지였다. 그러나 그 가능성이나 작동원리 등에 대해서 일반인들에게까지 많이 전해지지는 않은 상태였다. 그런 상황에서 알파고 바둑 대결을 통해 인공지능이라는 키워드가 일반인들까지 주목할 만큼의 관심을 받았고 알파고에 적용된 딥러닝이 바로 인공지능이라는 매우 단순한 등식이 생겨났다. 그렇다면 인공지능과 딥러닝은 어떤 관계일까?

우선 딥러닝은 인공신경망(Artificial Neural Networks)이라는 모델링 방식의 일종이며 그 이상도 이하도 아니다. 인공지능의 전체가 아니라는 의미이다. 인공신경망이 오랫동안 그 복잡성에 비해 큰 유용성을 내지 못하던 문제점을 감소시키기 위한 방법상의 변화가 학계에서 나왔고 빅데이터 시대라는 이야기에서처럼 우연인지 필연인지 분석을 위해 사용할 수 있는 데이터도 많아진데다 컴퓨터의 처리속도나 비용 문제도 대폭 해소되었다. 결과적으로 인공신경망이 주로 적용되는 이미지 분류 등의 분야에서는 큰 진척이 이루어졌다. 예를 든다면 사진에 개가 있는지 고양이가 있는지, 어떤 사람이나 풍경이 있는지를 자동으로 구분하는 기술이 발달한 것이다.

딥러닝은 인공신경망의 일종이며 인공신경망은 다시 연구측면에서 인공지능의 전체 중 머신러닝(Machine Learning) 즉 기계학습의 한 부분에 해당한다. 바꾸어 말하면 인공지능에는 기계학습 이외에도 자연어처리라든지 최적화 등 또 다른 여러 영역들이 있다는 이야기다. 우리가 막연히 상상하는 인공지능의 구현을 위해서는 머신러닝 부분 이외의 것들도 필요하며 머신러닝에 조차 딥러닝 이외의 방식들이 다수 존재한다. 또 기계학습에서도 대상문제에 따라 딥러닝과 같은 인공신경망 보다 적합하고 더 효율적인 다른 방식들이 있는 것이다. 대표적으로 인공신경망은 통상 충분한 학습을 위해 상당히 많은 수의 데이터를 요구하지만 일반 기업들이 해결해야 하는 문제들 중에는 데이터의 건수가 많지 않은 문제들도 다수 존재하며 이런 경우에는 인공신경망이 결코 만병통치약이 될 수 없다.

딥러닝이 주로 사용되는 이미지 분류 문제만 해도 수많은 사진들이 존재하고 구글이나 페이스북 처럼 그 것을 한 주체가 보유할 수 있어 주어야 제대로 작동될 수 있는 것이다. 비록 바둑에서 성과를 거두었다고는 하나 실제 세상의 문제들은 바둑보다는 훨씬 더 복잡하고 여러 가지 기능을 조합해야 어느 정도라도 답을 낼 수 있다. 딥러닝으로 모든 것을 해결할 수 있는 것처럼 생각하는 것도 큰 오해이며 모두가 구글이나 페이스북과 같이 대규모의 자원을 필요로 하는 방식을 선택하려는 것 역시 부적절할 수 밖에 없다. 물론 딥러닝 조차 100%의 정확도를 보이는 수준이 아니라는 점도 반드시 기억해야 한다.

 

[오해2] 기계학습은 사람과 같은 방식으로 이루어진다

학습이라는 단어는 쉽게 사람이 학교에 가서 배우는 것을 연상시킨다. 그러나 기계가 걸어서 학교에 갈 이유는 없다. 기계의 학습은 사람의 학습과 꼭 같은 모습일 필요가 없기 때문이다. 마치 주판을 활용하여 계산을 하는 사람과 전자계산기를 사용해서 계산을 하는 사람이 계산하는 방식이 다른 것과 마찬가지이다. 우리가 소위 기계라고 부르는 프로그램은 데이터가 많으면 더 똑똑해 보이는 결과를 내 놓는다. 규칙을 사용하는 방식에서는 규칙이 많으면 역시 더 좋은 결과를 제공한다. 모든 경우의 수를 일일이 입력하는 것은 아니지만 프로그램이 조합해서 사용할 수 있는 데이터나 규칙을 하나씩이든 한번에 왕창이든 추가해주는 것 그것이 바로 기계입장에서의 학습이다.

인공지능 또는 AI라는 이름을 붙이면서 은연중에 프로그램을 의인화시키려는 경우가 많다. 하지만 사람과 비슷하게 생기고 사람과 비슷한 방식으로 작동해야만 똑똑해지는 것은 아니다. 얼굴도 팔다리도 프로그램에 꼭 없어도 되고 뇌에 주름도 꼭 필요한 것이 아니다. 사람의 학습은 주로 직접 겪어 보거나 책을 외우는 과정에서 이루어진다면 기계의 학습은 경험의 덩어리나 지식의 덩어리를 끼워 넣는 것으로 충분하다. 기계에게 더 적합한 방식의 학습이 기계에게 더 효과적인 학습방법이 될 것이다. 로봇이 더 편한 바퀴 사용을 두고 사람처럼 걸어야만 멋진 것이라는 상상 같은 것들은 그리 실효성이 있는 것은 아니다.

 

[오해3] 강한 인공지능이 일자리를 빼앗아간다

인공지능이 일자리를 빼앗아갈 것이라는 뉴스들이 넘쳐난다. 그리고 그런 기사들에는 필수적으로 특이점(Singularity Point)이라는 것이 언급된다. 인공지능이 인간의 지능을 추월하는 시점이라고 하는 것이다. 이 때부터는 인공지능 즉 프로그램이 스스로 학습하고 이전에 입력된 범위를 벗어나 새로운 영역에 대한 문제를 푸는 방법을 스스로 도출해낼 수 있는 것으로들 상상한다. 강한 인공지능(Strong AI) 또는 범용적 지능(General Intelligence)라는 용어도 흔히 같이 사용된다. 십년 남았다는 이도 있고 오십년은 넘게 걸릴 것이라는 이도 있고 특이점 이야기는 허구라는 이도 있다. 대체 누구의 이야기를 믿어야 할까? 그리고 만일 온다면 그 시점에서 사람의 일자리를 대폭으로 없애게 될 것인가?

생각해 보면 우선 안타깝게도 사람의 지능이 그리 높지 않다. 수학문제를 1분에 백개씩 풀 수 있는 사람이 얼마나 있겠는가? 반면 그 정도의 지능을 가진 사람보다 계산을 잘하는 기계는 이미 우리 생활에 들어와 있는 것이 아닌가? 인공지능 세탁기가 주부보다 빨래를 잘하고 전기밥솥이 재료의 양에 맞추어 척척 밥을 한다. 얼마나 똑똑한가? 사람보다 낫지 않은가? 또 한편으로 생각해 볼 부분은 인공지능이 스스로 새로운 문제를 푸는 방법을 배워갈 것인가의 문제이다. 적어도 지금의 기술로 보면 프로그램이 일정 수준의 조합내에서 주어진 데이터를 활용하여 문제에 대한 답을 내는 정도가 인공지능의 실제 모습이다. 문제 자체를 다시 정의하도록 프로그램되지 않았기 때문이다. 흔히 법률가나 의사도 인공지능에 의해 대체될 것이라고들 하지만 인공지능이라고 이름 붙여진 프로그램이 법조계가 경쟁도 치열하고 수입이 시원치 않아져가니 부동산중개 분야로 발을 넓혀야겠다는 계산(?)을 할 것인가? 만일 필요하다면 그런 기능을 프로그램에 넣는 것도 불가능할 것은 없어 보인다. 문제는 굳이 그런 식으로 프로그램을 만들 필요가 별로 없다는 것이다.

두 가지 측면을 종합적으로 보면 강한 인공지능이 아니라도 자동화된 프로그램에 의한 계산은 충분히 사람이상으로 지능적일 수 있다. 그리고 이미 우리 생활에서 그런 부분들은 얼마든 접할 수 있다. 그런 면에서 본다면 어쩌면 이미 특이점은 지난 것인지도 모른다. 단, 모든 영역에서 인간의 지능을 추월했다고 할 수 없고 또 사람과 같은 방식이나 의미에서의 지능을 추월했다고도 할 수 없어 보인다. 이 대목에서 가장 중요한 진짜 문제는 우리가 걱정하는 일자리다. 역사적으로 인간은 생각하고 판단하는 기능을 사람이 가진 유일하고 대체불가능한 존재가치로 여겨왔으나 이 부분은 그 마지막 보루가 무너지는가에 관한 문제이다. 강한 인공지능이 습격하는 세상은 아직 오지 않았으나 약한 인공지능(Weak AI)이라는 기능이 제한된 지능형 프로그램이 내 대신 내가 핵심으로 여기는 일들을 해나갈 수 있다면? 로봇이라고 불리는 프로그램이 자동적으로 기사를 쓰고, 모델에 의해 주식거래가 이루어지고 그 결과물이 사람이 프로그램 없이 직접하는 것 보다 나은 상황은 이미 와있다. 아직은 조금 더 다듬어져야 할지도 모르나 이미 그 가능성이나 부분적인 성과들은 여기저기서 드러나고 있는 상황이다.

기관총을 가진 병사들이 천 명있다면 십만의 칼을 든 적군을 물리치는 것은 어렵지 않은 일일 수 있다. 상식적인 이야기지만 문제는 사람의 일자리다. 기관총이 사람이 가진 지능이나 삼국지에서의 관운장만큼의 검술 학습을 거치지 않았음에도 불구하고 칼을 들고 싸우면서 월급을 받아갈 구만구천명의 일자리에 대응되는 몫을 한다는 점을 생각해볼 일이다. 상식적으로 다수의 지식근로자들의 가치가 사라질 수 밖에 없는 상황이다. 강한 인공지능이나 특이점의 문제가 아니라 소위 가성비가 낮아서라는 현실적인 이유 때문이다. 진짜 두려운 것은 떼로 습격해오는 이 약한 인공지능들이다. 이 대목은 결코 간과할 수 없는 문제임에 틀림없고 이 사라질 몫의 일거리를 누군가가 만들어 내야 사회가 유지될 수 있을 것이지만 적어도 아직까지는 그저 책을 읽고 생각하고 창의력을 개발하려는 노력을 하라는 수준의 원론적인 대안들에 그치고 있음이 걱정스럽다. 사람의 일자리에 관해서 만큼은 현상과 실체를 인식하고 무언가 명확한 대비책을 준비해야만 할 것으로 보인다.

 

머신러닝, 인공지능 등 느닷없이 돌격해오는 용어들과 관련된 사실과 상상간의 차이에 대해 몇 가지를 상식적인 수준에서 짚어 보았다. 이 정도가 수많은 오해들의 전부도 아니다. 경쟁적인 측면에서 본다면 어차피 세상은 점점 더 지능적인 프로그램을 활용하는 방향으로 변해갈 것이라는 점을 인정하고 그 물결에서 앞서 나아가 살아 남겠다는 작전계획이 필요한지도 모른다. 경쟁국가와 경쟁기업과의 경쟁에서 살아 남아야 하니까. 다만, 그 과정에서 내용이나 사실을 잘 이해하지 못해서 엉뚱한 방향의 시행착오를 하는 것도 최소로 해야 할 것이고, 반대로 무시하고 있다가 아무 대책 없이 문제를 만나는 것도 최소로 해야 할 듯 싶다. 진짜로 치명적(lethal)일 수 있기 때문이다.

 

-      끝 - 

Lethal Misunderstandings on Machine Learning and Artificial Intelligence

▲ Yong Xune Xon CEO / RevisionConsulting

[ComputerWorld] Google’s AlphaGo got the fire going one day in the morning of spring 2016. It seems like suddenly the world has entirely changed to be the artificial intelligence world. Everybody searches AI, many seminars go on and companies and government organizations started to talk about adoption and utilization of AI. The Google's go event definitely was a huge success.

Over the last couple of years we have been talking about big data only with our lips. It was not that easy to grasp what is possible from big data. And we were not truly sure about the value of big data. But the go competition was just like a well-prepared visual presentation of tangible evidence.

The surge in public attention has a positive side for the related industries and academic fields. But we should not forget to double check how well we understand the hot keywords AI and machine learning. If oversold mythical story-telling on AI and machine learning goes way too far, the interest explosion may result in radical bubble burst soon and possibly bring in serious negative impacts.

[Misunderstanding 1] Deep Leaning is the New AI.

Over a couple of recent years, there have been increasing interests and researches on deep learning in industries and academia even before Google created the AlphaGo super event. It was not an exception in Korea. However the potential and mechanism of deep learning have not been widely introduced to the general public.

In the meantime, the keyword AI got the public attention through the go competition and a very simple equation that AlphaGo’s deep learning is the AI showed up. Then what is the relationship between AI and deep learning?

Deep leaning is a kind of artificial neural network modeling paradigm which is a section of machine learning in the overall AI field map. Thus it does not exhaustively address AI. AI encompasses not only machine learning but also many other sections. Natural language processing and optimization are some examples.

After a long period of dark age, a group of academic researchers found a way to handle complexity related drawbacks of neural network approaches. At the same time, data availability in terms of size and diversity has dramatically increased and computing power related issues in terms of speed and cost have resolved. Those changes in situations altogether resulted in a relatively huge progress in areas like image classification where neural networks have been considered to be an alternative. The technology to tell whether there is a dog or cat in an image had a chance to make a big enhancement.

To implement an imaginary AI, we need various components including machine learning. Even in machine learning there are many choices other than deep learning. Depending on the characteristics of the problem to solve, other machine learning approaches than deep learning may work much efficiently and fit better. For example, some business problems naturally have only few dozens of data points. Thus applying artificial neural networks which usually require vast amount of training data records because of the complex structure may not work as a cure-all and the best solution.

Some large scale organizations like Google and Facebook have billions of images that enable possibly successful training of deep learning models for image classifications. But that is not the case for all other teams.

A success in games like go does not guarantee to get a good score in the complex real world problems. We may have to handle more complex relationships and combine many different functionalities to produce a solution. It is a misunderstanding that deep learning can solve any kind of problem. Not everyone has to choose the methods that naturally demand massive amount of computing resources and only few giants like Google and Facebook can pay for the cost. Deep learning is not a perfect and 100% of accurate solution.

[Misunderstanding 2] Machine Learns Exactly the Same Way as Humans

The word learning provokes imagination of school classes. However computers do not need to take school bus to learn. Machine learning does not necessarily take exactly the same steps as humans ones. It is just like the case that calculating using an abacus which is a counting board requires a different set of human operations from the case when using an electric calculator. With more data, machines produce much smarter results. More rules result in better outcomes. We do not put in all possible combinations. Putting data or rules either piece by piece or in a bulk at once works for learning of machines.

When calling it an AI, we implicitly personify the programs. For computers to be smart it does not have to look like human and work in the same manner with humans. Programs do not need arms and legs. It is not a must to have wrinkles in brain. Human learning is made continuously from getting experience or reading books while machine learning can be done by inserting a magazine of experience and knowledge. If there is a machine-suited way of learning then it would be a better choice for machines. Conceptions like a robot has to walk by foot to be more like humans even when it has much convenient alternative that is wheels is not a pragmatic idea.

[Misunderstanding 3] only Strong AI Will Take Human Jobs.

People say that AI will take human jobs. They often mention the singularity point which is the AI’s surpassing of human intelligence. Other terms like strong AI and general intelligence are also used often. People imagine that AI learns itself and outpaces the scope of inputs and identifies and self-programs the way of solving new problems from then on. Someone says it will take a decade and others say more than five decades. Some others say it is just a fiction. Then who is talking about the truth? And if it comes, most human jobs will be disappeared?

Unfortunately human intelligence is not strong enough to solve just one hundred math problems within a minute. However, already in daily life, we use computers that can make calculations far better than humans with that level of intelligence. So called AI washing machines do better jobs than a house wife and electric rice cookers work well according to the type of materials. How smart they are? They are far better than humans for the given jobs.

Can AIs learn themselves to solve completely new type of problems also is an important question. But at least within the current level of technology, an AI produces solutions within a very limited scope of pre-defined combinations using the data provided and is not programmed to self-redesign the problem to solve.

Let’s think about a case. Some experts say that lawyers and doctors might be replaced by AI. Then can a medical AI make a computation to decide to change the area of specialty to real estate brokerage to avoid the severe medical market competitions? Not just because adding a capability to do this is impossible, we just don’t need to do it.

For automated computations of a bunch of computer programs, strong AI is not a must condition to be more intelligent than humans. We already see many sufficiently intelligent, but still weak, examples of AIs in daily life. In this sense, maybe we are already passing the singularity point.

Still AIs surpassed human intelligence not in all sectors of the world. They did not surpass humans in the same ways and meanings. However the key issue here is the jobs. Over the history, humans took thinking and making decisions as their own unique and irreplaceable functions. Thus it is a matter of losing the final fortification.

Strong AIs’ raid is not present here at the moment. But, weak AIs with only limited intelligence can steal at least some portion of what we do for living. Programs that are called robots automatically write news articles and design investment portfolios and produce increasingly better results than humans. Some more calibrations might be necessary but the potentials and partial successes show up everywhere. It is not a science fiction anymore.

Take a case of combat. Beating an army of enemy comprised of a hundred thousand soldiers only with swords may not be a tough mission for a thousand soldier team fully armed with state-of-the-art machine guns. The number of soldiers here is the matter. In this fictitious example, the tool takes the ninety nine percent of people's jobs even though the machine gun does not have human level of intelligence. Many knowledge workers' values are threatened. Things like strong AI and the singularity point do not count here. In a pragmatic standpoint, only cost-effectiveness matters. Weak AIs are the true enemies.

▲ - Just like a machine gun does, not only strong AI replaces human labor. [Image Source: Wikipedia]

To keep our society, someone has to create this portion of jobs that could be possibly disappeared. This is not a casual talk show theme. However, so called experts address merely very conceptual and vague advices like requesting to read books and try hard to develop creative thinking skills. Considering the importance of the matter, we do have to make sure that a safety solution for human jobs to be always ready based on the correct perception of the reality.

Concluding Remarks

We have talked about a set of gaps between the reality and what we casually think regarding machine learning and AI that are suddenly in front of us. But these do not cover the entire list of misunderstandings.

Admitting the fact that, with or without our intention, the world will keep stepping forward towards the direction of utilizing more smarter software and setting up a combat plan to lead this tide might be an unavoidable choice to survive from competitions with other countries and companies. However, minimizing the casualties from unnecessary trial and errors originated from misunderstandings and the risk of encountering disasters without any pre-built protection is the task what we have on hand. Possibly the changes AI and machine learning will bring in might be really lethal.