(CLIP) 텍스트 정보를 이용한 Visual Model Pre-training

클릭 >> Hello, world !! (from ShadowEgo) 이번 포스트에서는 OpenAI 에서 최근 발표한 CLIP 모델[1]을 소개한다. 이미지, 오디오 등과 같은 데이터의 차원(dimension)을 줄이면서도 보다 의미있는 형태로 변환하는 representational learning은 딥러닝 및 AI 기술의 대중화를 가능하게 한 중요한 요소들 중 하나이다. 특히 컴퓨터 비전 문제에서는 ImageNet의 대용량 데이터셋으로 미리 학습시킨 네트워크를 더보기…

의료분야에서의 인공지능

클릭 >> Hello, world !! (from ShadowEgo) 들어가며… 인공지능 기술은 의료분야에서 가장 뜨겁게 활용될 수 있다. 질병을 찾아내고, 치료하고, 예후를 관찰하고, 새로운 치료방법을 연구, 적용하는 등의 다양하고 광범위한 일들이 의료 분야에서 이루어지고 있고, 이러한 일들을 효율적으로 수행하기 위한 새로운 방법이 늘 필요하기 때문이다. 그러나 한편으로는, 사람의 건강과 생명에 직결되기에, 새로운 더보기…

서로 다른 정보를 결합하기 위한 Feature-wise transformations

클릭 >> Hello, world !! (from ShadowEgo) CLEVR 데이터셋/태스크[1]는 신경망의 멀티모달 인식과 논리적 문제 풀이 능력을 시험하기 위해 제안되었다. 아래 예시 문제와 같이 사진 한 장과 자연어로 쓰여진 질문이 주어지고 주어진 질문에 대한 정답을 찾는 문제이다. 영상에 대한 이해, 자연어에 대한 이해, 그리고 약간의 논리적 사고도 필요한 문제라고 할 수 더보기…

Social Science와 Machine Learning의 만남 

클릭 >> Hello, world !! (from ShadowEgo) Inforience 대표가 KAIST 소속 시절에 연구한 내용을 바탕으로 2013년에 발표한 논문 “Mining Social Relationship Types in an Organization using Communication Patterns” (CSCW 2013)은 Social Science 관련 문제를 Machine Learning 으로 풀어낼 수 있다는 사실을 보였습니다.  특히, 이 논문은 실험 과정에서 실제 환경에서 직접 수집한 더보기…

모바일폰에서 동작하는 딥러닝 모듈의 성능을 알아보자. (AI-Benchmark)

클릭 >> Hello, world !! (from ShadowEgo) 들어가며. 최근 몇 년간 딥러닝 기술의 발전과 함께 Machine Intelligence 가 비약적으로 향상되어 왔고 아직까지 그 성장세가 여전하다. 초기 딥러닝 모델은 많은 연산량을 필요로 했기에 서버나 PC의 GPU 에서만 주로 동작했으나, 모바일 프로세서의 발전과 모델의 경량화, 그리고 모바일 환경에 최적화된 라이브러리의 등장에 힘입어 더보기…

IT 응용 분야들 사이의 관련성을 간단히 측정해 보자.

클릭 >> Hello, world !! (from ShadowEgo) 들어가는 말 최근의 IT(Information Technology)는 활용되지 않는 분야가 거의 없으며, 각 분야의 특성과 요구사항에 맞추어 여러가지 형태로 활용된다. 만약 내가 일하고 있거나 관심을 가지고 있는 분야의 IT기술과 그와는 다른 분야에서 주로 활용되고 있는 IT기술들 사이의 전체적인 유사도나 관련성을 측정할 수 있다면 어떤 일을 더보기…

기술 흐름의 탐지와 분석 (2)

클릭 >> Hello, world !! (from ShadowEgo) 들어가며… 지난 포스트 (기술 흐름의 탐지와 분석 (1))[1]에서는 단일 기술 키워드를 바탕으로 기술 변화의 흐름을 분석했었다. 이번 포스트에서는 인공지능과 관련된 중요한 응용과 세부 기술들 사이의 상관성의 변화를 정량적으로 측정해 보자. 이러한 측정 결과를 통해서는, 특정 응용에 대해 이해하거나 해당 응용을 구현하고자 할 때, 더보기…

기초적이지만 꽤 재미있는 word embedding 놀이

클릭 >> Hello, world !! (from ShadowEgo) 들어가며… 최근의 기계학습 분야에서 가장 핵심적인 역할을 하고 있는 것들 중의 하나가 ‘embedding’이다. Wikipedia에 명시된 embedding의 정의 [0] 는 다음과 같다. “In mathematics, an embedding is one instance of some mathematical structure contained within another instance, such as a group that is a 더보기…

내가 일하고 있는 분야에서는 인공지능을 얼마나 활용하고 있을까? (1)

클릭 >> Hello, world !! (from ShadowEgo) 들어가며… 인공지능 분야의 연구결과들은 컴퓨터로 풀 수 있는 문제들에 대한 새로운 해결법을 제시하는 경우가 많기 때문에, 다양한 분야의 문제들에 대해 새로운 해결 방향을 제시할 수 있다. 인공지능 분야의 연구를 크게 나누어 보면, 새로운 인공지능 모델이나 알고리즘을 개발하는 부류와, 문제의 해결 과정에 인공지능 모델이나 더보기…

인공지능을 비즈니스에 적용하려면…

클릭 >> Hello, world !! (from ShadowEgo) YouTube 영상 : 들어가며… 인공지능에 대한 관심도가 높아지면서, 관련 기술을 보유하고 있지는 못하지만 외부의 힘을 빌려서라도 자신의 비즈니스에 인공지능 기술을 적용해 보려고 하는 사람들이 늘어나고 있다. 본 포스트에서는, 인포리언스가 실제로 진행해 온 프로젝트들에서 얻은 경험과 주요 관련 사이트에 실린 분석 기사들을 토대로, 인공지능 더보기…