인포리언스

클릭 >> Hello, world !! (from ShadowEgo)

Go to English ver. of this article. (http://222.114.71.21:10100/2018/03/12/changepoints1d-1/)

다음과 같은 일을 하는 시스템을 생각해 보자.

• 당신의 집중력이 갑자기 떨어지기 시작하는 순간을 자동으로 탐지
• 자동차의 주행 상태가 갑자기 변화하는 순간을 자동으로 탐지
• 기계의 동작 상태가 갑자기 변화하는 순간을 자동으로 탐지
• 새벽 시간의 낯선 소리나 움직임을 자동으로 탐지
• 기후가 갑자기 더워진 순간을 자동으로 탐지
• 주가가 갑자기 폭락하는 순간을 자동으로 탐지
• 성적이 떨어지기 시작한 순간을 자동으로 탐지

데이터의 변화를 당신이 직접 계속 관찰할 수 있다면, 이런 작업은 별로 어렵지 않을 것이다. 데이터가 변화하는 순간을 직접 찾아내면 되니까. 그러나, 24시간 내내 눈에 힘을 주고 데이터를 쳐다볼 수 있는 사람은 없다. 이러한 관찰 작업은 컴퓨터에게 맡겨야 한다. 다시 말해서, 컴퓨터에게 이렇게 말하는 것이다. “나는 데이터를 계속 넘겨줄 테니, 이상한 패턴이 발견되면 알려 줘”.

IoT 장치가 폭발적으로 늘어나 누구나 직접 센서 데이터를 모을 수 있고, 웹이나 클라우드에서도 다양한 데이터를 쉽게 얻을 수 있게 되었다. 앞으로는 데이터 과학자나 엔지니어가 아니더라도 자신의 데이터로부터 중요한 순간을 직접 탐지하고자 하는 사람들이 늘어날 것이다. 따라서, 내가 모은 데이터를 계속 전송하면 중요한 패턴을 지능적으로 탐지해서 알려주고 관련작업까지 수행하여 주는 기능이 있다면 참 좋을 것이다.

이 주제에 대해서는 Outlier Detection, Change Point Detection, Anomaly Detection 등과 같은 분야에서 세계적으로 많은 연구가 진행되고 있다. 데이터에 대한 사전지식이 없는 상황에서도 중요한 패턴들을 스스로 탐지하는 효율적인 알고리즘을 만들기 위한 연구들이다.

그런데, 패턴을 탐지하는게 그렇게 어려운 일인가?

그림 1. 지난 2년간 온라인 뉴스에서 ‘가상화폐’가 언급된 추세

패턴을 간단한 룰로 표현하여 입력하면 탐지할 수 있다. 예를 들어, 온도가 섭씨 20도 이상으로 올라가면 탐지하게 하거나, 주가가 10% 상승하면 탐지하게 할 수 있다. 이러한 룰은 간단한 코드로 표현할 수 있다. 그러나 데이터에는 다양한 패턴들이 무수히 포함될 수 있으므로, 탐지하고자 하는 모든 패턴을 사전에 예측하여 정의할 수는 없다. 중요한 패턴들과 중요하지 않은 패턴들을 미리 구분하는 것도 쉽지 않다. 설상가상으로, 데이터에는 노이즈가 많이 들어있을 수 있다.

쉽지 않은 일에 도전해 보자.

이번 포스팅에서는 인포리언스가 독자적으로 개발하고 있는 change point detection 방법을 sample data에 적용한 결과를 설명한다. 이 방법은 CoDIP에 탑재된 자동 패턴 분석 기능(CoDIP-PA)에 속한다. 실제 데이터에 적용한 예들과 이 기술을 바탕으로 지능적인 서비스를 구축하는 방법은 추후에 소개한다.

(1) 적정 수준을 유지하던 데이터가 갑자기 변화하는 순간을 탐지한다.

학업 또는 업무 성적이 이미 충분히 좋다면 계속 유지하는게 좋겠지만, 떨어지는 순간이 있을 수 있다. 이러한 변화가 생기면 그 타이밍과 이유를 알아야 한다. 내가 좋아하는 아이돌 그룹이 갑자기 뉴스에서 많이 언급되면 왜 그런지 궁금하다. 집에 아무도 없을 때 출입문은 움직이지 않는 것이 당연한데, 움직임 레벨이 갑자기 상승하면 비상상황일 수 있다. 습도를 적정 수준으로 유지해야 하는 환경에서는 습도가 갑자기 떨어지게 되면 문제가 될 수 있다. 이러한 상황들을 빨리 탐지하면 문제를 잘 해결할 수 있다.

그림 2-(a)

그림 2-(b)

그림 2-(a)는 데이터의 값이 갑자기 변화한 상황을 나타내며, 그림 2-(b)는 CoDIP-PA가 변화의 타이밍을 찾아낸 결과를 나타낸다. 사실, 이 정도의 change point를 찾는 작업은 그다지 어려워 보이지 않는다. 데이터가 특정 값 이상으로 상승하는 순간을 탐지하게 하면 된다. 그러나, 그러한 탐지 기준을 구체적으로 미리 다 정하는 것은 불가능하다.

그림 3-(a)

그림 3-(b)

그림 3-(a)는 다양한 규모의 급격한 상승과 하강 패턴이 여러 번 나타난 상황을 보여준다. 그림 3-(b)는 CoDIP-PA가 변화가 발생한 타이밍을 탐지한 결과를 나타내는데, 변화의 규모에 상관없이 모두 찾아내었다. 그러나 사실, 이것도 그다지 어려워 보이지는 않는다.

그림 4-(a)

그림 4-(b)

그림 4-(a)는 노이즈와 급격한 변화가 모두 포함된 데이터에서 노이즈에 의한 모든 변화를 탐지한 경우를 보여준다. 이에 비해 그림 4-(b)는 노이즈는 무시하고 크고 중요한 변화만을 탐지해 낸 결과이다. CoDIP-PA는 초기에 확인한 일부 데이터의 특성을 바탕으로 노이즈의 존재를 확인하고 중요한 변화만 찾아낸다.

(2) 일정한 변화 패턴을 유지해야 하는 데이터가 급작스레 다른 패턴의 변화를 나타내는 순간을 탐지한다.

그림 5-(a)

그림 5-(a)는 sinusoidal 데이터이다. 온도와 습도 데이터를 측정해 보면, 낮에는 온도가 높지만 밤이나 새벽에는 온도가 낮다. 습도는 온도의 변화와 반대의 움직임을 보이는 경우가 많다. 이렇게 늘 일정한 패턴을 보이던 데이터에 생소한 패턴이 나타난다면 탐지할 수 있을까?

그림 5-(b)

그림 5-(c)

그림 5-(b)는 낯선 패턴이 포함된 경우를 나타낸다. 그리고 그림 5-(c)는 CoDIP-PA가 낯선 패턴을 탐지한 결과를 보여준다. 낯선 패턴을 보인 이후, 그래프가 다시 원래의 패턴으로 돌아가면 정상적인 상황으로 인식한다.

그림 5-(d)

그림 5-(d)은 낯선 패턴이 여러 번 나타난 경우이다. CoDIP-PA는 낯선 패턴이 나타난 모든 순간들을 빠짐없이 탐지해 낸다. 급격하게 꺾인 형태를 나타내는 위치들을 잡아내고 나머지는 정상 패턴으로 인식한다.

(3) (데이터 범위의 변화가 없는 가운데) 주파수의 변화가 나타나는 순간을 탐지한다.

어떤 장비가 일정하게 움직이다가 갑자기 움직임이 빨라지는 경우를 생각해 보자. 혹시 고장 아닐까? 아니면 적어도 장비의 상태가 악화되고 있는 것은 아닐까? 이러한 패턴 변화를 찾아내는 것은 중요하다.

그림 6-(a)

그림 6-(b)

그림 6-(a)는 일정한 반복 패턴을 보이던 데이터가 어느 순간부터 주기가 점점 짧아지는 경우를 나타낸다. (데이터 수치의 범위에는 변화가 없다.) 그림 6-(b)는 주기가 변화한 타이밍을 CoDIP-PA가 탐지한 결과를 보여준다.

그림 7

그림 7은 주기에 변화가 생겼다가 원래의 주기적 패턴으로 돌아온 경우이다. CoDIP-PA는 정확하게 주기가 변화한 타이밍만 탐지한다.

(4) Main fluctuation에 작은 fluctuation 또는 노이즈가 포함되었을 경우 Main fluctuation의 변화만 탐지한다.

그림 8-(a)

그림 8-(b)

그림 8-(c)

그림 8-(a)는 작은 fluctuation이 main fluctuation에 섞여 있는 데이터를 보여준다. Main fluctuation의 주기는 점점 작아지고 있다. 지능이 부족한 방법을 적용하면 작은 fluctuation들을 모두 탐지하는 반면에 main fluctuation의 변화를 제대로 구분하지 못한다. (그림 8-(b)) 그러나 CoDIP-PA는 데이터의 성격을 파악하여 main fluctuation의 주기가 변화하는 순간만을 탐지한다. (그림 8-(c))

그림 9-(a)

그림 9-(b)

그림 9-(c)

그림 9-(a)는 main fluctuation에 심한 노이즈가 섞인 경우를 나타낸다. 이 경우에도 CoDIP-PA는 데이터의 성격을 파악하여 main fluctuation의 주기가 변화하는 순간만을 탐지한다. (그림 9-(c))

다른 알고리즘들은 어떨까?

위의 결과들은 CoDIP-PA가 스스로 데이터의 특성에 적응하여 찾아낸 결과들이다. 다른 알고리즘들은 동일한 데이터에 대해 어떠한 탐지결과를 만들까? 오랫동안 연구되어 온 Bayesian Changepoint Detection[1, 2, 3] 및 유명한 luminol 라이브러리[4]를 동일한 데이터 패턴에 대해 적용한 결과를 살펴보자.

그림 10. Bayesian Changepoint Detection 방법 및 luminol 라이브러리를 적용한 결과

그림 10에서 볼 수 있듯이, Bayesian Changepoint Detection 방법과 luminol 라이브러리는 간단한 형태의 change point는 탐지하는 듯 했으나, 복잡한 형태의 change point들을 탐지하는 데에는 실패했다. 특히, 부드러운 곡선 형태의 시계열 데이터에 포함된 변화 포인트를 탐지하는데에는 크게 실패했다. 또한 중요하지 않은 point들을 탐지하는 경우도 많다. 이 결과를 통해 우수한 chage point detection 방법을 개발하는 것이 얼마나 어려운 지를 확인할 수 있다. 또한 이것은 인포리언스가 개발한 chage point detection 기술의 성능이 상대적으로 우수함을 의미한다.

참고문헌

[1] Paul Fearnhead, Exact and Efficient Bayesian Inference for Multiple Changepoint problems, Statistics and computing 16.2 (2006), pp. 203–213

[2] Ryan P. Adams, David J.C. MacKay, Bayesian Online Changepoint Detection, arXiv 0710.3742 (2007)

[3] Xuan Xiang, Kevin Murphy, Modeling Changing Dependency Structure in Multivariate Time Series, ICML (2007), pp. 1055–1062

[4] https://github.com/linkedin/luminol

Go to Korean ver. of this article (http://222.114.71.21:10100/2018/03/12/changepoints1d-1kor/)

Consider a system that performs the following tasks:

• Automatically detect when your concentration level begins to drop suddenly
• Automatically detect when driving status of a vehicle suddenly changes
• Automatically detect when operating status of an equipment suddenly changes
• Automatically detect strange sounds or movements at night time
• Automatically detect when the weather suddenly gets hot.
• Automatically detect when stock prices plunge suddenly
• Automatically detect when grades begin to fall

If you can keep an eye on your data personally, these tasks will not be difficult. The only thing you have do is to find the moments. However, no one is able to look at the data 24 hours a day. These tasks should be left to the computer. In other words, we have to tell the computer: “I will hand over the data to you continuously, then let me know if you find any critical moment of changes.”

The explosion of IoT devices has made it possible for anyone to collect sensor data. We can also easily obtain various data from the web or the cloud. In the future, even if you are not a data scientist or engineer, you may want to find personally important moments from your data. Therefore, it would be nice if you have the capability of intelligently detecting important changes and performing related tasks accordingly.

Much research has been done on Outlier Detection, Change Point Detection, and Anomaly Detection. The researches have tried to develop efficient algorithms that can self-detect important change points in the data even when there is no prior knowledge of the data.

Is it really difficult to detect critical change points automatically?

Figure 1. Trend of ‘virtual currency’ mentioned in Korean online news for the past two years.

Patterns can be detected based on simple rules. For example, if the temperature rises above 20 degrees Celsius, it can be detected. If the stock price rises 10 point, it can be detected. These rules can be expressed by simple programming code. However, there may be numerous change points in the data. It is impossible to predict and define the rules for all possible changes in advance. It is not easy to distinguish critical and non-critical changes in advance. To make matters worse, the data may contain a lot of noise.

Let’s do something challenging.

In this post, we describe the results of applying change point detection method, which is developed by Inforience. This method belongs to the automatic pattern analysis functions included in CoDIP (CoDIP-PA). We will introduce someday the results of applying the method to real data and also explain how to build intelligent services based on this method.

(1) Detecting the moment when the data which kept at the proper level suddenly drops or rises.

If your academic grade is already excellent enough, you may want to keep it, but there may be a moment when it falls. When this happens, you need to know when and why. You may wonder why your favorite celebrity is suddenly mentioned a lot in the news. The room door should not move when there is no family member in your house, so if a movement is detected, it may be an emergency situation. In an environment where humidity must be maintained at an proper level, sudden drops of humidity level can be a problem. It is important to detect these situations as quickly as possible.

Figure 2-(a)

Figure 2-(b)

Figure 2-(a) shows the situation where the value of the data changes abruptly. Figure 2-(b) shows the result of finding the change points by CoDIP-PA. In fact, it does not seem so difficult. You can design a system to detect when the data rises above a certain value. However, it is impossible to specify all of such detection criteria in advance.

Figure 3-(a)

Figure 3-(b)

Figure 3-(a) shows a situation in which sudden rise and fall appear several times in various magnitudes. Figure 3-(b) shows the result of detecting the change points by CoDIP-PA. But in fact, this does not seem too difficult either.

Figure 4-(a)

Figure 4-(b)

Figure 4-(a) shows the data including both the noise and the sudden significant changes. Fig. 4-(b) is a result of detecting only large and significant change points while ignoring noise. CoDIP-PA figures out the presence of noise based on the characteristics of early data and identifies significant change points.

(2) Detecting changes of the data that must show a constant movements.

Figure 5-(a)

Figure 5-(a) is the sinusoidal data. When you measure temperature and humidity, temperature is high in daytime, but is low at night or dawn. Humidity shows opposite patterns to temperature change in general. If there is a sudden change that is unfamiliar to us, can we detect it?

Figure 5-(b)

Figure 5-(c)

Figure 5-(b) shows a case where a strange change is included. Figure 5-(c) shows the result of CoDIP-PA detecting the change. After showing the strange change, when the graph returns to its original pattern, it recognizes it as a normal pattern.

Figure 5-(d)

Figure 5-(d) shows a case where the strange changes appear multiple times. CoDIP-PA detects all the moments in which the strange changes appear.

(3) Detecting the change of frequency (even without change in original data range)

Consider a situation in which an equipment suddenly moves faster. Is it broken? Or the condition of the equipment is worsening?

Figure 6-(a)

Figure 6-(b)

Figure 6-(a) shows the case where the period of repetitive pattern becomes shorter gradually from a certain moment. (Notice that there is no change in the range of data values.) Figure 6-(b) shows the result of detecting the change by CoDIP-PA.

Figure 7

Figure 7 shows a case in which a period change occurs for a little while and then returns to the original periodic pattern. CoDIP-PA precisely detects the timing at which the period change occurs.

(4) Detecting the change of the main fluctuation without falling into noise and small fluctuation.

Figure 8-(a)

Figure 8-(b)

Figure 8-(c)

Figure 8-(a) shows the data with a main fluctuation mixed with the small fluctuation. The period of the main fluctuation is getting smaller. A lack of intelligence will make us fall into small fluctuations without identifying the change of the main fluctuation properly. (Figure 8-(b)). CoDIP-PA figures out the characteristics of the early data and detects only the moment when the period of main fluctuation changes.

Figure 9-(a)

Figure 9-(b)

Figure 9-(c)

Figure 9-(a) shows the case where the main fluctuation is mixed with severe noise. In this case, CoDIP-PA also detects the characteristics of the noise and detects only the moment when the period of main fluctuation changes. (Figure 9-(c))

What about the other algorithms?

So far, we showed that CoDIP-PA can adapt itself to the characteristics of the data. Will other algorithms produce the same results for the same data? Let’s look at the result of applying the Bayesian Changepoint Detection [1, 2, 3] and the famous luminol library [4] to the same data.

Figure 10. The results of applying Bayesian Changepoint Detection method and luminol library

As you can see in Figure 10, the Bayesian Changepoint Detection method and the luminol library seem to detect simple change points well, but fail to detect complex change points. In particular, they are largely unsuccessful in detecting change points contained in smooth curved patterns. They also often detect non-critical points. This shows how difficult it is to develop a good chage point detection method. This also means that the performance of the change point detection method developed by Inforience is relatively superior.

References

[1] Paul Fearnhead, Exact and Efficient Bayesian Inference for Multiple Changepoint problems, Statistics and computing 16.2 (2006), pp. 203–213

[2] Ryan P. Adams, David J.C. MacKay, Bayesian Online Changepoint Detection, arXiv 0710.3742 (2007)

[3] Xuan Xiang, Kevin Murphy, Modeling Changing Dependency Structure in Multivariate Time Series, ICML (2007), pp. 1055–1062

[4] https://github.com/linkedin/luminol

클릭 >> Hello, world !! (from ShadowEgo)

온라인에서 활동하시는 치밀한 선생님

윤러닝씨는 몇달 전부터 경제학을 공부하고 싶다는 생각을 해왔다. 그래서 정보를 좀 검색해 보니, 요즘에는 온라인으로 수강할 수 있는 강좌들도 많고, 학점도 딸 수 있다고 해서, 모 온라인 대학의 경제학 기초 과목을 수강하기로 했다. 나름대로 크게 마음을 먹고 행동으로 옮겼는데, 공부해야 할 양이 많고 시간도 많이 들 것 같아 슬쩍 걱정이 되었다. 그런데, 공부를 하다보니, 내가 얼마나 공부를 했는지, 어느 정도나 이해했는지, 어떤 내용을 좀 더 보충하면 좋을 지, 다음 단계에서는 어떤 자료를 보면 좋을 지 등과 같은 정보를 적절한 타이밍에 자동으로 알려주어서 생각보다 힘들게 느껴지지 않았다. 윤러닝씨는 그렇게 온라인 강좌 시스템의 안내에 따라 차근차근 기초 과목의 공부를 끝냈다. 만족스러운 결과를 얻어 공부가 재미있어진 윤러닝씨는 내친 김에 좀 더 높은 수준의 경제학 전공과목도 공부해 볼까 생각하며 즐거운 고민을 하고 있다.

위의 이야기는 가상의 시나리오지만, 최근의 교육환경은 위와 같은 시나리오가 실제로 가능해지게끔 계속해서 진화, 발전하고 있다. 다시 말해서, 누구나 원하는 주제의 강좌를 찾아 온라인으로 스스로 공부할 수 있고, 공부하는 동안 학습자의 학습 패턴과 수준을 측정, 분석해서 적절히 활용할 수 있게 된 것이다. 이러한 것들이 가능해진 것은, 학습 대상이 되는 많은 컨텐츠들이 디지털화되어 서비스로 제공되고 있고, 학습자 개인에 대한 다양한 데이터를 수집할 수 있게 되었으며, 이를 분석하고 활용할 수 있는 다양한 기술들이 뒷받침되고 있어서다.

그림 #1. Learning Analytics 에서의 데이터의 수집 저장, 선택, 분석, 해석, 활용까지. (Figure from “Learning Analytics: Concepts, methods, tools, achievements, research directions and perspectives, Learning Technology and Educational Engineering Lab”, Αngelique Dimitracopoulou)

인포리언스, SEED API

인포리언스는 데이터 분석, 머신러닝, Natural Language Processing (NLP) 등과 같은 분야의 기술들을 연구개발하는데, 최근에는 이러한 기술들을 학습자 친화적인 교육 서비스를 구축하는 것에 접목하기 위한 프로젝트를 진행하고 있다. 그 첫번째 테마로서, 영문 텍스트 분석 기술을 영어 학습 과정에 활용하는 것에 초점을 맞추고 있다. 인포리언스가 다른 기술들 중에서도 영문 텍스트 분석 기술을 활용하는 것을 첫번째 테마로 선택한 이유는 다음과 같다.

1. 영문 텍스트 분석 기술은 오랜 기간에 걸쳐 전 세계적으로 (인포리언스 뿐만 아니라 많은 연구자들에 의해) 많은 연구가 이미 진행되어, 활용 가능한 결과들이 풍부한 편이다.
2. 교육 환경에 기술적 요소들을 적절하게 접목시키기 위해서는, 해당 기술들에 대한 지식 뿐만 아니라 교육 및 학습 과정, 교육 서비스의 구조 및 학습자에 대한 이해와 경험을 갖추는 것이 필요한데, 영어는 많은 사람들이 다양한 목적으로 공부하는 주제이며 다양한 형태의 온라인 학습 서비스가 제공되고 있기 때문에, 이러한 이해와 경험을 수집하기에 적합하다.

SEED는 인포리언스에서 개발하고 있는 영문 텍스트 분석용 기본 API 의 명칭으로서, “Smart, English, Education, Data”의 약자이다. SEED API는 영문 컨텐츠들의 특성을 추출하는데 필요한 여러가지 기능들을 제공하는데, 학습자가 공부하고 있거나 지금까지 공부해 온 내용들로부터 학습자의 학습패턴, 수준, 학습방향 등을 파악하는 것에 활용할 수 있다. 더 나아가, 이렇게 파악된 결과를 바탕으로 새롭게 학습할 컨텐츠를 추천해 주는 데에도 활용할 수 있다.

영어 학습 서비스를 제공하는 클라이언트 서비스들은 원하는 타이밍에 SEED API의 특정 기능을 호출하여 사용할 수 있다. SEED API 는 어떤 타입의 영어 학습을 목표로 하는가에 무관하게 모두 활용할 수 있도록 가장 일반적이면서도 중요한 기능들을 포함하고 있다. 예를 들어, 학습자가 자신이 공부할 단어를 선택하는 순간에 해당 단어에 대한 부가정보를 수집하여 제공한다거나, 학습자가 특정 문장을 쓰거나 읽을 때에 해당 문장에 대한 부가정보를 제공할 수 있도록 지원한다.

그림 #2. 클라이언트 서비스가 단어, 문장, 또는 단락을 입력으로 설정한 뒤 SEED API 의 함수를 호출하면 SEED API 의 함수는 입력된 내용에 대한 분석 결과를 출력하여 제공한다. (Document set 을 입력으로 받는 함수는 차기 버전에 포함될 예정)

SEED API v0.1 의 기능 구성과 활용

인포리언스는 SEED API 의 첫번째 버전 (ver. 0.1) 을 개발 완료하고 테스트를 하는 단계에 와 있다. 0.1 버전에는 다음과 같은 함수들이 포함되어 있는데 (추후에도 필요한 기능의 함수를 지속적으로 발굴하여 포함시킬 예정), 입력된 내용에 대해 각 함수가 출력하는 내용은 다음과 같다. (실제 함수명은 본 포스팅의 마지막 부분을 참조)

• 단어를 입력
  • (F1) 입력된 단어의 난이도를 출력
  • (F2) 입력된 단어와 같은 문장에서 함께 자주 나타나는 단어들을 출력
  • (F3) 입력된 단어로부터 유추할 수 있는 다른 단어들을 출력
  • (F4) 입력된 단어가 실제로 사용된 문장의 예시들을 출력
  • (F5) 입력된 단어가 어떤 주제의 문서에서 주로 쓰이는 지에 대한 정보를 출력
• 문장을 입력
  • (F6) 입력된 문장의 문법적 오류를 체크하여 출력
  • (F7) 입력된 문장의 난이도를 출력
  • (F8) 입력된 문장과 유사한 형태의 구조를 가진 예문들을 출력
  • (F9) 입력된 문장과 유사한 난이도를 가진 예문들을 출력
  • (F10) 입력된 문장이 어떤 주제의 문서에서 주로 쓰이는 지에 대한 정보를 출력
• 단락을 입력
  • (F11) 입력된 단락에 포함된 문장의 개수와 난이도를 출력
  • (F12) 입력된 단락과 유사한 난이도를 가진 단락들을 출력
  • (F13) 입력된 단락이 어떤 주제의 문서에서 주로 쓰이는 지에 대한 정보를 출력

SEED API 의 활용방안의 예를 들자면 다음과 같다. (물론, 여기서 예로 언급한 방안들 외에도 클라이언트 서비스의 목적과 내용에 따라 다양한 활용 방안을 고안할 수 있다)

학습자가 특정 단어를 공부할 때 F1을 호출하면 해당 단어의 난이도를 파악할 수 있다. 따라서, 학습자가 지금까지 공부해 온 단어들의 묶음을 확보할 수 있다면 개별 단어의 난이도를 바탕으로 난이도의 통계를 얻을 수 있다. 또한 이 정보는 문장 또는 단락에 포함된 단어들의 난이도를 바탕으로 해당 문장이나 단락의 난이도를 추정할 때에도 사용할 수 있다. F2나 F3은 학습자가 특정 단어를 공부할 때에 그 단어와 함께 학습할 단어를 추천하는 과정에서 활용될 수 있다. F4는 학습자가 공부한 단어가 포함된 예문을 제시해 주고자 할 때 호출할 수 있다.

학습자가 영작을 하거나, 문장을 공부할 때에는 F7을 호출하여 학습자가 공부해 온 문장들의 난이도를 얻어 학습 수준을 추정할 수 있다. 또한 F8이나 F9의 출력을 활용하면 입력 문장과 비슷한 수준의 예문을 찾아 추천할 수 있다.

학습자가 독해를 공부한다고 하면, 독해 단락 전체를 입력 파라메터로 설정할 수 있다. 예를 들어, 학습자가 오답을 낸 단락들을 입력으로 하여 F11을 호출하면 학습자가 어떠한 수준의 독해 문제를 자주 틀리는 지를 파악할 수 있다. F13을 통해서는 학습자가 어떠한 주제의 독해 지문을 이해하는데 어려움을 겪는가를 파악하려고 할 때, 그리고 F12는 비슷한 수준의 단락을 반복해서 학습하도록 서비스를 구성하고자 할 때 활용할 수 있다.

F5, F10, F13은 단어, 문장, 단락을 입력 파라메터로 받을 수 있는데, 입력된 내용이 주로 어떠한 주제의 영문 컨텐츠에서 활용되는지 알려줄 수 있으므로, 특정 학습자의 학습 히스토리로부터 학습자가 어떤 주제를 익숙하게 여길 지를 추정하거나, 지금까지 공부해 오지 않은 주제의 학습 컨텐츠를 찾아내어 제공하고자 할 때 적절히 활용할 수 있다.

SEED API 를 기반으로 한 서비스 구성

영어 학습 과정은 학습자의 수준에 맞게, 또는 클라이언트 서비스가 제공하고자 하는 서비스의 방향에 맞게 개별적으로 구성되어야 한다. 다시 말해서, 중학교 1학년 교과서 수준의 영어 공부를 하는 학습자에게 학술 논문에서나 나올 법한 어휘나 문장을 제공하거나, TOEFL 수준의 독해 학습을 하고 있는 학습자에게 중학교 1학년 교과서에 실릴만한 단락을 높은 수준을 매겨서 추천하는 것은 적합하지 않을 것이다.

그림 #3. SEED API 가 동작하는 이면에는 corpus 를 기반으로 한 눈물겨운(?) 학습과정이 있다.

SEED API 는 사전에 제공된 corpus (말뭉치)에 들어있는 텍스트들의 특성을 미리 학습하고, 그 결과를 기반으로 각 함수들의 출력을 생산해 낸다. Corpus는 텍스트 분석 과정에서 기본적으로 사용해야 할 영문 표본의 역할을 수행하므로, corpus 에 포함된 텍스트들의 수준, 품질, 용량, 구조 등에 따라 SEED API 의 학습결과와 출력결과가 달라진다. 예를 들어, 수능 영어 학습 과정에 SEED API 를 활용하려면, 수능 영어의 수준과 내용, 품질에 적합한 corpus 를 기반으로 SEED API 를 학습시켜야 하며, TOEFL 학습 서비스에 SEED API 의 출력결과를 붙이려면 TOEFL 의 수준과 내용을 잘 표현하는 corpus 를 SEED API 에 제공하여 학습하도록 해야 한다.

인포리언스는 기본적인 표준 corpus 를 확보하고 있으나, 이러한 표준 corpus 가 모든 종류의 영어 학습 서비스에 적합할 것이라 생각할 수는 없으므로, 영어 학습 서비스의 목적과 타입에 맞는 corpus (Custom corpus) 를 바탕으로 학습 서비스 제공자가 SEED API 를 직접 학습시킬 수 있게 할 예정이다. 이를 위해 인포리언스는, SEED API 를 사용할 영어 학습 서비스들이 자신들의 corpus 를 직접 업로드할 수 있게 하는 기능을 포함시킬 예정이다. 이렇게 자신이 보유한 custom corpus 를 직접 활용할 수 있게 되면, 좋은 품질과 충분한 용량의 corpus 를 확보한 서비스 클라이언트들이 SEED API 를 활용하는 과정에서 더 좋은 결과를 기대할 수 있게 된다.

실제 함수명

• F1: getWordDifficulty()
• F2: getCoOccurringWords()
• F3: getContextuallySimilarWords()
• F4: getExampleSentences()
• F5: getContentTopics()
• F6: analyzeSentenceGrammar()
• F7: getSentenceDifficulty()
• F8: getSimilarStructureSentences()
• F9: getSameLevelSentences()
• F10: getContentTopics()
• F11: computeContentReadability()
• F12: getSameReadabilityContent()
• F13: getContentTopics()