월간 보관물: 2024년 11월월

“Attention is All You Need” 논문은 2017년 Google Brain 팀에서 발표한 획기적인 연구로, 자연어 처리 분야에 혁명을 일으킨 Transformer 모델을 소개한 논문입니다. 이 논문은 BERT, GPT 등 현대 자연어 처리 모델의 기반이 되는 아키텍처를 제시했다는 점에서 매우 중요한 의미를 갖습니다. … 계속 읽기 →

각 시기에 독특하게 나타난 키워드들은 다음과 같습니다. 더보기 >> IoT(Internet of Things) 환경에서 NLP(Natural Language Processing)나 LLM(Large Language Model)은 어떻게 활용될까?

Image source : https://www.nobelprize.org/prizes/physics/2024/hopfield/facts/ “John Joseph Hopfield(이하 Hopfield)의 연구는 1980년대부터 2020년대까지 생물학적 시스템과 신경망의 계산 모델(Computational Model)에 초점을 맞추고 있습니다. 초기에는 생물학적 뉴런의 비동기 병렬 처리와 컴퓨터 시스템의 content-addressable memory를 설명했습니다. 1980년대 중반에는 비선형 아날로그 뉴런을 활용하여 최적화 문제를 해결하였고 이를 … 계속 읽기 →