LLM 핵심 기술에 대해서...

대규모 언어 모델의 최신 기술 동향: 아키텍처, 정렬, 그리고 미래 전망 (2025년 6월 기술 보고서)

요약: 2025년 중반 현재, 대규모 언어 모델(LLM)의 지형은 근본적인 패러다임 전환을 겪고 있습니다. 여전히 중요하지만, 규모의 단일한 추구가 지배하던 시대는 계산 효율성과 실용적이고 신뢰할 수 있는 배포라는 이중의 초점을 특징으로 하는 더 성숙한 단계로 나아가고 있습니다. 이 보고서는 이러한 진화를 뒷받침하는 핵심 기술에 대한 포괄적인 기술 분석을 제공합니다. 지배적인 추세로는 밀집 네트워크(dense network) 훈련의 막대한 비용을 관리하기 위한 희소 전문가 혼합(MoE) 모델로의 아키텍처 전환과, 모델 맞춤화를 대중화하기 위한 저랭크 적응(LoRA)과 같은 매개변수 효율적 미세조정(PEFT) 기술의 광범위한 채택이 있습니다. 이와 병행하여, 인간의 가치와 LLM의 행동을 일치시키는 정렬(alignment) 방법은 과거의 복잡한 인간 피드백 기반 강화학습(RLHF) 파이프라인을 대체하는 직접 선호도 최적화(DPO)와 같은 더 간단하고 안정적인 기술로 성숙해졌습니다. 이러한 변화는 실제 능력에 대한 신뢰할 수 없는 대리 지표로 점점 더 간주되는 전통적인 정적 평가 벤치마크에 대한 신뢰의 위기 속에서 일어나고 있으며, 이는 분야를 더 동적이고 에이전트적인 평가 프레임워크로 나아가게 하고 있습니다. 가장 시급한 연구 분야는 이제 주로 고급 검색 증강 생성(RAG) 및 지식 그래프(KG) 통합을 통해 사실성 및 환각(hallucination)이라는 지속적인 문제를 해결하는 데 있습니다. 앞으로 3~5년은 계산 및 에너지 비용 관리, 복잡한 윤리 및 규제 환경 탐색, 그리고 멀티모달리티, 장기 기억, 진정한 모델 설명가능성의 경계를 넓히는 엄청난 도전으로 정의될 것입니다.

---

1. 현대 LLM 아키텍처: 트랜스포머에서 효율적인 거인으로

대규모 언어 모델의 아키텍처 여정은 규모의 법칙이 크기와 함께 더 큰 능력을 약속하는 동시에, 그 성장을 제약하는 경제적 및 계산적 현실이라는 이중의 압력에 의해 주도되는 지속적인 적응의 이야기입니다. 기초적인 트랜스포머 아키텍처는 여전히 기반으로 남아 있지만, 2025년의 최첨단 모델들은 계산 비용을 최소화하면서 성능을 극대화하도록 설계된 고도로 전문화되고 효율적인 변형입니다.

1.1 트랜스포머의 지속적인 유산과 그 변형

2017년 논문 "Attention Is All You Need"는 시퀀스의 병렬 처리를 가능하게 함으로써 자연어 처리를 혁신한 트랜스포머를 소개했습니다.[1] 핵심 혁신인 자기-어텐션 메커니즘(self-attention mechanism)은 모델이 시퀀스 내 다른 단어들의 중요성을 서로에 대해 가중치를 부여하여 거리에 관계없이 복잡한 의존성을 포착할 수 있게 합니다. 이러한 병렬적 특성은 순환 신경망(RNN) 전임자들의 순차적 처리로부터의 중요한 출발이었습니다. 그러나 이 힘은 중요한 절충안을 동반했습니다: 자기-어텐션 메커니즘의 계산 및 메모리 요구 사항은 입력 시퀀스의 길이에 따라 이차적으로 확장되며, 이는 지속되고 아키텍처 혁신을 계속 촉진하는 과제입니다.[2]

이 근본적인 절충안은 원래 아키텍처를 세 가지 주요 계열로 분기하게 만들었으며, 각각 다른 유형의 작업에 최적화되었습니다:

• 인코더-전용 아키텍처: BERT(Bidirectional Encoder Representations from Transformers)와 같은 모델은 트랜스포머의 인코더 스택을 사용합니다. 그 특징은 모든 토큰이 입력 시퀀스의 다른 모든 토큰에 주의를 기울일 수 있는 양방향 자기-어텐션 메커니즘입니다. 이 구조는 감성 분석, 텍스트 분류, 명명된 개체 인식과 같은 전체 문맥에 대한 깊고 전체적인 이해가 필요한 자연어 이해(NLU) 작업에 매우 적합합니다.[3, 4] 그러나 비-자기회귀적(non-autoregressive) 특성으로 인해 유창하고 개방적인 텍스트 생성에는 적합하지 않습니다.[5]

• 디코더-전용 아키텍처: 이것은 GPT 시리즈, Llama, Claude를 포함한 현대 생성 및 대화형 LLM의 지배적인 아키텍처입니다. 이 모델들은 디코더 스택만을 사용하며, 인과적(causal) (또는 마스크된) 자기-어텐션 메커니즘을 사용합니다.[3] 이 설정에서 토큰은 자신과 시퀀스에서 자신보다 앞에 있는 토큰에만 주의를 기울일 수 있습니다. 이 단방향 문맥은 다음-토큰 예측 목표와 완벽하게 일치하여 이 모델들을 자연스러운 텍스트 생성기로 만듭니다.[6] 디코더-전용 아키텍처의 상대적인 단순성과 동질성은 또한 수천억 개의 매개변수로 확장하기 쉽게 만들어 광범위한 채택에 크게 기여했습니다.[3]

• 인코더-디코더 아키텍처: 이것은 T5 및 BART와 같은 모델에서 사용되는 "Attention Is All You Need" 논문에서 제시된 원래 아키텍처입니다. 기계 번역이나 텍스트 요약과 같은 시퀀스-투-시퀀스(seq2seq) 작업에 이상적입니다. 인코더는 전체 소스 시퀀스를 처리하여 풍부한 문맥적 표현을 구축하고, 디코더는 이를 교차-어텐션 메커니즘을 통해 사용하여 대상 시퀀스를 토큰별로 생성합니다.[1, 4, 7]

핵심 어텐션 메커니즘 외에도 모델이 순차적 순서를 나타내는 방식의 혁신이 중요했습니다. 초기 모델은 간단한 절대 위치 인코딩을 사용했지만, 이 분야는 긴 시퀀스에서 토큰의 상대적 위치를 효과적으로 인코딩하는 데 중요한 회전 위치 임베딩(RoPE)과 같은 더 정교한 상대 위치 방법으로 대체로 채택되었습니다.[8] LLM의 기하학에 대한 추가 연구는 표현이 모델의 레이어를 통해 구조화된 방식으로 진화한다는 것을 보여줍니다. 데이터 매니폴드의 내재적 차원은 먼저 확장된 다음 수축하며, 특정 중간 레이어에서 피크 의미 정보가 포착되는 현상은 다른 데이터 모달리티에 걸쳐 관찰됩니다.[9]

1.2 친칠라 효과와 스케일링 법칙의 우위

LLM 개발의 궤적은 스케일링 법칙(scaling laws)—컴퓨팅, 모델 크기, 데이터의 규모와 모델 성능을 연결하는 예측 가능한 멱법칙 관계—의 발견에 의해 깊이 형성되었습니다. Kaplan 등의 초기 연구(2020)는 모델 크기, 데이터셋 크기, 훈련 컴퓨팅이 증가함에 따라 모델 성능(테스트 손실로 측정)이 부드럽게 향상됨을 보여주었습니다.[10]

이 연구는 딥마인드의 2022년 "친칠라" 논문에 의해 정제되었으며, 이는 산업의 스케일링 접근 방식을 근본적으로 바꾸었습니다.[10, 11] 다양한 크기의 400개 이상의 모델을 다른 양의 데이터로 훈련함으로써, 연구원들은 컴퓨팅-최적 훈련을 위해 모델 크기(매개변수 수, $N$)와 훈련 토큰 수($D$)가 동일한 비율로 확장되어야 한다는 것을 발견했습니다. 핵심적인 함의는 당시의 많은 대형 모델, 예를 들어 GPT-3가 상당히 "과소 훈련"되었다는 것이었습니다—즉, 훈련된 데이터 양에 비해 너무 컸습니다. 1.4조 개의 토큰으로 훈련된 70B 매개변수 모델인 친칠라 모델은 훨씬 더 큰 175B 매개변수 GPT-3를 능가하여 이 균형 잡힌 스케일링 전략의 힘을 보여주었습니다.

종종 "친칠라 효과"라고 불리는 이 발견은 패러다임 전환을 가져왔습니다. 현재의 최첨단 기술은 비교적 작은 모델을 훨씬 더 큰 데이터셋에서 훈련하는 것을 포함합니다. 예를 들어, 2025년에 출시된 Qwen 3 0.6B와 같은 모델은 36조 개의 토큰으로 훈련되어 원래 친칠라 법칙이 권장하는 비율을 훨씬 초과하며, 이 분야는 데이터 스케일링으로부터의 수익을 계속 탐색하고 있습니다.[12]

그러나 이러한 스케일링 법칙에는 한계가 있습니다. 복잡도와 같은 집계 성능 지표를 예측하는 데는 신뢰할 수 있지만, 특정 세분화된 다운스트림 작업에 대한 성능을 예측하는 능력은 훨씬 약합니다.[13] 더욱이, 새로운 연구는 더 전문화된 능력에 대한 스케일링 법칙을 탐색하고 있습니다. 2024년 사실 암기 스케일링 법칙에 대한 연구는 LLM이 이 작업에 매우 비효율적이며, 일반 지식보다 훨씬 더 많은 훈련 에포크가 필요하다는 것을 발견했으며, 이는 사실에 대해 매개변수 메모리에만 의존하는 것이 최적이 아니며 검색 증강 생성(RAG)과 같은 비-매개변수 접근법의 필요성을 강화합니다.[14] 마찬가지로, 포스트-훈련 양자화에 대한 스케일링 법칙 개발은 초기 연구 결과가 더 큰 모델이 더 견고하고 가중치가 더 낮은 비트 폭으로 압축될 때 성능을 더 잘 보존한다는 것을 나타내는 새로운 연구 분야입니다.[15]

1.3 밀도를 넘어서는 스케일링: 전문가 혼합(MoE) 패러다임

밀집 모델이 수천억 개의 매개변수로 확장됨에 따라, 그들의 훈련 및 추론 비용은 세계에서 가장 큰 기술 회사 몇 곳을 제외하고는 감당할 수 없게 되었습니다. 전문가 혼합(MoE) 아키텍처는 이 문제에 대한 주요 해결책으로 부상했으며, 계산 비용(FLOPs)의 비례적 증가 없이 모델 크기를 극적으로 증가시킬 수 있는 경로를 제공합니다.[16, 17]

MoE의 핵심 아이디어는 희소 활성화(sparse activation)입니다. 단일의 밀집 순방향 네트워크(FFN) 레이어 대신, MoE 레이어는 두 가지 구성 요소로 이루어져 있습니다: "전문가"라고 불리는 더 작고 독립적인 FFN 세트와 "게이팅 네트워크"(또는 라우터)입니다.[18] 각 입력 토큰에 대해, 게이팅 네트워크는 해당 토큰을 처리하기 위해 이 전문가들의 작은 하위 집합(예: 16, 64 또는 128개의 더 큰 풀에서 일반적으로 2~8개)을 동적으로 선택합니다. 선택된 전문가들의 출력은 게이팅 네트워크의 점수에 의해 결정된 가중 합계를 통해 집계됩니다.[18]

이 아키텍처는 모델이 어떤 주어진 토큰에 대한 활성 매개변수 수를 일정하고 작게 유지하면서 총 매개변수 수를 엄청나게 가질 수 있게 합니다. 예를 들어, DeepSeek-v3 모델은 총 6710억 개의 매개변수를 가지고 있지만, 추론 중에는 370억 개만 활성화되어 계산 비용이 훨씬 작은 밀집 모델과 비슷합니다.[18] 2024년에 출시된 저명한 오픈 웨이트 MoE 모델에는 Mistral AI의 Mixtral 8x22B(총 1410억 매개변수)와 Snowflake의 Arctic(총 480억 매개변수)이 포함됩니다.[19]

MoE의 핵심 특징은 전문가들이 명시적인 감독 없이 훈련 중에 자동으로 전문화되는 것을 배운다는 것입니다.[18] 게이팅 네트워크와 전문가들은 함께 진화합니다. 라우터는 특정 유형의 데이터를 가장 잘 처리하는 전문가에게 보내는 법을 배웁니다. 그러나 이 동적 라우팅은 새로운 핵심 과제인 부하 분산(load balancing)을 도입합니다. 게이팅 네트워크는 몇몇 "선호하는" 전문가에 대한 선호를 개발하여 다른 전문가들을 활용하지 않고 훈련 비효율을 초래할 수 있습니다. 이를 완화하기 위해, MoE 모델은 일반적으로 게이팅 네트워크가 토큰을 모든 전문가에게 더 고르게 분배하도록 장려하는 보조 손실 함수(auxiliary loss function)를 통합하거나, 단일 전문가가 과부하되는 것을 방지하기 위해 전문가 용량 제한(expert capacity limits)을 시행합니다.[18]

MoE 아키텍처의 부상은 알고리즘 자체를 넘어서는 결과를 가져오며, 기본 하드웨어 및 소프트웨어 시스템의 공동 진화를 강요합니다. 밀집 모델에서 계산 그래프는 정적이며, 분산 훈련 설정에서의 통신 패턴은 예측 가능합니다. MoE 모델에서 계산 그래프는 동적이며 입력에 따라 다릅니다. 배치 내의 다른 토큰이 다른 전문가에게 라우팅될 수 있고, 이러한 전문가들이 클러스터 내의 다른 물리적 GPU나 TPU에 상주할 수 있기 때문에, 훈련 과정은 데이터가 가속기 간에 섞이면서 막대한 "All-to-All" 통신 오버헤드를 발생시킵니다.[16] 이는 훈련의 주요 병목 현상을 밀집 모델에서와 같이 계산 집약적인 것에서 통신 집약적인 것으로 변환합니다. 이러한 변화는 전문가 병렬 처리 전략, 네트워크 패브릭을 위한 토폴로지 인식 라우팅 알고리즘, 그리고 이 지연 시간을 숨기기 위해 통신과 계산을 효율적으로 중첩할 수 있는 DeepSpeed와 같은 소프트웨어 프레임워크의 개발을 포함한 시스템 수준 설계의 혁신을 주도합니다.[16] 미래 MoE 모델의 성공은 이러한 시스템 수준 최적화에 알고리즘 개선만큼이나 달려 있을 것입니다.

---

2. LLM 생명주기: 기초 사전 훈련에서 정밀한 정렬까지

최첨단 LLM의 생성은 모델 중심 프로세스에서 근본적으로 데이터 및 정렬 중심 프로세스로 진화한 다단계 생명주기입니다. 아키텍처와 규모가 기반을 마련하는 동안, 최종 모델의 품질, 안전성 및 유용성은 이제 사전 훈련 중 데이터의 세심한 큐레이션과 훈련 후 정렬 중 행동의 정교한 조종의 직접적인 함수로 이해됩니다.

2.1 사전 훈련: 기초 지식 구축

사전 훈련은 모델이 수조 개의 토큰을 포함하는 방대한 텍스트 코퍼스에서 언어의 기본 패턴, 구문, 의미 및 사실적 지식을 배우는 비지도 단계입니다.[20, 21] 사전 훈련 목표의 선택은 모델의 핵심 능력의 주요 결정 요인입니다.

2.1.1 핵심 목표

이 분야는 이전에 논의된 아키텍처 선택과 관련된 두 가지 지배적인 목표로 대체로 수렴되었습니다:

• 마스크 언어 모델링(MLM): 이 목표는 BERT와 같은 인코더 전용 모델의 초석입니다. 입력 시퀀스에서 토큰의 일정 비율(예: 15%)을 무작위로 마스킹하고 모델이 주변의 양방향 문맥을 기반으로 이러한 마스크된 토큰을 예측하도록 훈련하는 것을 포함합니다.[5, 21] 이 과정은 모델이 언어에 대한 깊은 문맥적 이해를 개발하도록 강제하여 NLU 작업에 매우 효과적입니다. 그러나 인공적인 `` 토큰은 사전 훈련과 다운스트림 사용 사이에 불일치를 생성하며, 이 목표는 유창하고 일관된 텍스트를 생성하는 데 본질적으로 적합하지 않습니다.[5]
• 다음 토큰 예측(인과적 언어 모델링): 이것은 GPT 시리즈 및 Llama와 같은 자기회귀, 디코더 전용 모델의 표준 목표입니다. 모델은 모든 선행 토큰이 주어졌을 때 시퀀스의 다음 토큰을 예측하도록 훈련됩니다.[5] 이 목표는 본질적으로 생성적이며 대화 및 콘텐츠 생성과 같은 작업에 이러한 모델이 사용되는 방식과 직접적으로 일치합니다. 그 단순성과 규모에서의 효과는 오늘날 가장 큰 생성 모델의 지배적인 선택이 되게 했습니다.

일부 연구는 일반 언어 모델(GLM) 목표와 같은 하이브리드 목표를 탐색했으며, 이는 자기회귀적 빈칸 채우기를 사용하여 NLU 및 NLG 작업 모두에서 잘 수행되는 단일 모델을 훈련시켜 두 패러다임 사이의 격차를 효과적으로 메웁니다.[5]

2.1.2 데이터 엔진: 큐레이션 및 품질

컴퓨팅이 상품화되고 아키텍처 원칙이 안정화됨에 따라, 사전 훈련 데이터의 품질은 선도적인 LLM의 가장 중요한 차별화 요소로 부상했습니다.[12] 이 과정은 단순히 웹 규모의 데이터를 축적하는 것에서 세심한 다단계 큐레이션 파이프라인으로 전환되었습니다.

• 데이터 필터링 및 중복 제거: 대부분의 사전 훈련 코퍼스의 기초는 Common Crawl과 같은 대규모 웹 스크랩입니다. 그러나 이 원시 데이터는 잡음이 많고 저품질 콘텐츠를 포함합니다. 중요한 첫 번째 단계는 품질 필터링으로, 휴리스틱과 분류기를 사용하여 의미 없는 내용, 상용구 HTML 및 비자연어를 제거합니다. 이 과정은 T5 및 Falcon과 같은 모델을 훈련하는 데 사용된 C4(Colossal Clean Crawled Corpus) 및 RefinedWeb과 같은 더 깨끗한 데이터셋을 생성합니다.[22] 필터링 후, 문서 또는 단락 수준에서 대규모 중복 제거가 수행되어 중복 콘텐츠를 제거합니다. 이는 훈련 효율성을 향상시키고, 더 나은 일반화를 장려하며, 모델이 특정 훈련 예제를 단순히 암기하고 되풀이하는 경향을 줄입니다.[8]
• 토큰화: 원시 텍스트는 모델에 공급되기 전에 정수 토큰 시퀀스로 변환됩니다. 현대 LLM은 바이트 쌍 인코딩(BPE), WordPiece 및 SentencePiece와 같은 하위 단어 토큰화 알고리즘을 사용합니다.[8] 이러한 알고리즘은 단어를 더 작고 일반적인 하위 단위로 분해하여 모델이 어휘 크기의 폭발 없이 방대한 어휘, 희귀 단어 및 도메인 외부 용어를 처리할 수 있도록 합니다.
• 합성 데이터: 중요한 추세는 일반 웹 텍스트에서 과소 대표되는 복잡한 추론, 수학 문제 해결 또는 특정 언어로의 코딩과 같은 전문 기술을 주입하는 데 특히 효과적인 고품질, LLM 생성 합성 데이터의 사용 증가입니다.[23, 24]

2.1.3 윤리적 데이터 소싱 및 투명성

훈련 데이터를 위해 전체 웹을 스크랩하는 관행은 강렬한 윤리적 및 법적 조사를 받게 되었습니다. 이에 대응하여, 커뮤니티 주도 원칙과 EU AI 법과 같은 임박한 규제에 의해 주도되는 더 책임감 있고 투명한 데이터 소싱 관행으로의 움직임이 힘을 얻고 있습니다.[24]

이 운동을 안내하는 핵심 프레임워크는 데이터셋이 검색 가능(Findable), 접근 가능(Accessible), 상호 운용 가능(Interoperable), 재사용 가능(Reusable)해야 한다고 주장하는 FAIR 원칙입니다.[25] 2024년 6월, 모질라와 EleutherAI가 주최한 회의에서는 경쟁적이고 투명한 생태계 조성, 피해 최소화, 언어 및 문화적 다양성 지원, 데이터 생성자와의 상호성 확립과 같은 원칙을 강조하는 개방형 데이터셋 생성에 대한 모범 사례를 수립했습니다.[24]

실제로 이는 데이터 큐레이션 파이프라인의 구체적인 단계로 변환됩니다. 책임 있는 데이터 소싱은 이제 데이터 출처(데이터가 어디에서 왔는지)에 대한 세심한 문서 제공, robots.txt 및 "Do Not Scrape" 헤더와 같은 기계 판독 가능한 옵트아웃 신호 존중, 개인 식별 정보(PII)의 적극적인 필터링 및 제거, 그리고 사용된 모든 데이터에 대한 명확하고 표준화된 라이선스 제공을 포함합니다.[12, 24]

2.2 훈련 후 정렬: 유용성과 안전성을 향한 모델 조종

사전 훈련된 기본 모델은 지식과 언어 패턴의 저장소이지만, 본질적으로 유용하거나 안전한 도구는 아닙니다. 다음 토큰 예측기로서, 사용자의 질문에 답하거나, 비슷한 질문으로 계속하거나, 해롭거나, 편향되거나, 무의미한 콘텐츠를 생성할 수 있습니다.[26, 27] 정렬(Alignment)은 모델의 행동을 유용하고, 정직하며, 무해하도록 조종하여 신뢰할 수 있고 안전한 AI 비서로 만드는 중요한 훈련 후 과정입니다.[28, 29] 이는 일반적으로 다단계 과정입니다.

2.2.1 감독된 미세조정(SFT) / 지시 튜닝

정렬의 첫 번째 단계는 감독된 미세조정(SFT) 또는 지시 튜닝(Instruction Tuning)입니다. 이 단계에서 사전 훈련된 모델은 지시-응답 쌍의 작고 고품질이며 선별된 데이터셋에서 추가로 훈련됩니다.[20, 30] 이 쌍들은 원하는 행동을 보여주며, 모델에게 사용자 명령을 따르고, 질문에 답하고, 대화 차례를 지키도록 가르칩니다.[20, 28] 예를 들어, 데이터 포인트는 {'instruction': '광합성 개념을 간단한 용어로 설명해 주세요.', 'output': '광합성은 식물이 햇빛, 물, 공기를 음식으로 바꾸는 과정입니다...'}와 같이 보일 수 있습니다. 이 단계는 기본 모델을 단순한 텍스트 완성기에서 지시를 따르는 에이전트로 변환하는 것입니다.[26, 27]

2.2.2 선호도 튜닝의 진화

SFT가 모델에게 무엇을 해야 하는지(즉, 지시를 따르는 것)를 가르치는 반면, 선호도 튜닝은 유용성, 공손함, 무해함과 같은 미묘하고 종종 주관적인 인간의 가치에 따라 어떻게 잘해야 하는지를 가르칩니다.

• 인간 피드백 기반 강화학습(RLHF): InstructGPT 및 초기 버전의 ChatGPT와 같은 모델에 대해 OpenAI가 개척한 RLHF는 선호도 정렬을 위한 획기적인 기술이었습니다. 이는 복잡한 3단계 과정입니다 [28, 29]:

  1. 선호도 데이터 수집: 인간 레이블러에게 프롬프트와 두 개의 다른 모델 생성 응답을 보여주고, 그들이 선호하는 것을 선택합니다.
  2. 보상 모델(RM) 훈련: 이 인간 선호도 데이터셋에서 별도의 언어 모델이 훈련됩니다. 그 목표는 프롬프트와 응답을 받아 스칼라 보상을 출력하는 점수 함수를 학습하여 인간이 어떤 응답을 선호할지 예측하는 것입니다.
  3. RL로 LLM 최적화: 주 LLM("정책")은 일반적으로 근접 정책 최적화(PPO)와 같은 강화 학습 알고리즘을 사용하여 미세 조정됩니다. LLM은 프롬프트에 대한 응답을 생성하고, 보상 모델은 이러한 응답을 채점하며, RL 알고리즘은 예상 보상을 최대화하기 위해 LLM의 가중치를 업데이트합니다.
     매우 효과적이지만, RLHF는 구현하기가 매우 복잡하고, 계산 비용이 많이 들며, 훈련 불안정성으로 고통받을 수 있습니다.[29, 31]

• 직접 선호도 최적화(DPO): 2024-2025년에 지배적인 추세로 부상한 DPO는 RLHF에 대한 훨씬 간단하고, 더 안정적이며, 계산적으로 저렴한 대안을 제공합니다.[28, 29] DPO는 명시적이고 별도로 훈련된 보상 모델과 강화 학습의 복잡성을 교묘하게 우회합니다. DPO는 RLHF 목표를 간단한 분류 손실로 수학적으로 재구성합니다. 선택된 응답과 거부된 응답의 동일한 선호도 데이터셋을 사용하여, DPO는 거부된 응답에 비해 선호되는 응답의 상대적 로그 확률을 증가시키기 위해 LLM 정책을 직접 미세 조정합니다.[28, 29] 이 우아한 단순화는 고품질 선호도 튜닝을 훨씬 더 접근하기 쉽게 만들었습니다.

• DPO를 넘어서: DPO의 성공은 훨씬 더 효율적인 선호도 최적화 방법에 대한 연구의 물결을 일으켰습니다. 여기에는 SFT와 선호도 최적화 단계를 단일의 통합된 손실 함수로 결합하는 승산비 선호도 최적화(ORPO)와, 순위가 매겨진 쌍 대신 간단한 "좋음" 또는 "나쁨" 레이블로 작업하여 데이터 수집을 단순화하는 카너먼-트버스키 최적화(KTO)가 포함됩니다.[29] UNA와 같은 프레임워크도 RLHF와 DPO의 이론적 기반을 단일 감독 학습 패러다임으로 통합하기 위해 개발되고 있습니다.[31]

2.2.3 확장 가능한 감독: 헌법적 AI 및 RLAIF

선호도 튜닝의 주요 병목 현상은 대규모 인간 피드백을 수집하는 데 필요한 비용과 시간입니다. 이를 극복하기 위해 Anthropic과 같은 연구소는 AI 피드백 기반 강화학습(RLAIF)을 개척했습니다. 이 패러다임에서는 인간 레이블러 대신 별도의 강력한 AI 모델을 사용하여 선호도 데이터를 제공합니다.[28] 헌법적 AI라는 변형에서는 이 AI 심판이 원하는 안전 및 윤리 기준에 부합하는지 확인하기 위해 명시적인 원칙이나 규칙("헌법") 집합에 의해 안내됩니다. 이를 통해 인간 주석가만으로는 불가능한 훨씬 더 큰 규모로 정렬을 수행할 수 있어 더 철저하고 견고한 안전 훈련이 가능합니다.

RLHF에서 DPO 및 그 후속 기술로의 진화는 단순한 점진적 개선 이상을 의미합니다. 이는 정렬의 제품화를 의미합니다. 초기 RLHF 방법론은 강화 학습에 대한 깊은 전문 지식과 상당한 계산 자원을 필요로 하는 복잡한 연구 문제였으며, 그 사용은 소수의 최고 수준 연구소에 국한되었습니다. 선호도 튜닝을 안정적이고 효율적인 감독 학습 문제로 재구성함으로써 DPO는 진입 장벽을 극적으로 낮췄습니다.[28, 29] 이러한 "연구 문제"에서 "엔지니어링 문제"로의 전환은 고품질 정렬을 수행할 수 있는 능력을 민주화합니다. 이제 소규모 팀, 스타트업, 심지어 개인 개발자도 강력한 오픈 웨이트 기본 모델을 가져와 특정 행동 및 사용 사례에 맞게 정렬하는 것이 가능해졌으며, 이는 한때 AI 거인들의 독점적인 영역이었습니다. 이는 다양한 틈새 응용 프로그램을 위한 고도로 맞춤화되고 잘 정렬된 모델의 폭발적인 증가로 이어질 것으로 예상됩니다.

표 1: LLM 정렬 기술 개요

기술	핵심 메커니즘	주요 장점	주요 단점
감독된 미세조정(SFT)	고품질 지시-응답 쌍 데이터셋에 대한 감독 학습.	지시 따르기 및 대화 형식을 가르치는 데 간단하고 효과적입니다.	미묘한 선호도(예: 공손함, 안전성)를 본질적으로 가르치지 않으며, 품질은 SFT 데이터셋에 크게 의존합니다.
인간 피드백 기반 강화학습(RLHF)	인간 선호도 데이터로 보상 모델(RM)을 훈련한 다음, RM에 대해 LLM 정책을 최적화하기 위해 강화학습(RL)을 사용합니다.	손실 함수에서 지정하기 어려운 복잡하고 미묘하며 주관적인 목표에 대해 최적화할 수 있습니다.	계산 비용이 많이 들고, 구현이 복잡하며, 훈련 동역학이 불안정할 수 있습니다.
직접 선호도 최적화(DPO)	별도의 보상 모델이나 RL 없이 분류와 유사한 손실을 사용하여 선호도 쌍에 대해 LLM 정책을 직접 최적화합니다.	RLHF보다 훨씬 간단하고, 안정적이며, 계산적으로 효율적입니다.	성능은 선호도 데이터의 품질에 크게 의존하며, 매우 복잡한 보상 환경에서는 RLHF보다 유연성이 떨어질 수 있습니다.
승산비 선호도 최적화(ORPO)	SFT 손실과 선호도 최적화 손실을 단일의 통합된 훈련 단계로 병합합니다.	두 훈련 단계를 하나로 결합하여 매우 효율적이며, 일부 벤치마크에서는 DPO를 능가할 수 있습니다.	모범 사례가 아직 등장하고 있는 새로운 방법이며, 두 손실 구성 요소의 신중한 균형이 필요합니다.
헌법적 AI / RLAIF	인간 대신 선호도 레이블을 생성하기 위해 원칙 집합("헌법")에 의해 안내되는 강력한 AI 모델을 사용합니다.	확장성이 뛰어나 대규모 정렬이 가능하며 인간 주석 병목 현상을 줄입니다.	정렬의 품질은 AI 심판의 품질과 헌법의 포괄성에 따라 달라집니다.

---

3. 효율성 및 배포: LLM을 실용적으로 만들기

LLM의 이론적 능력은 계산적으로나 재정적으로 실현 가능한 방식으로 훈련, 맞춤화 및 배포될 수 있을 때만 가치가 있습니다. 효율성 기술 모음은 현대 LLM 생태계의 중심이 되어 개발자들이 대규모 기초 모델과 실용적인 실제 응용 프로그램 사이의 격차를 메울 수 있도록 합니다.

3.1 매개변수 효율적 미세조정(PEFT)

기초 모델을 처음부터 사전 훈련하는 것은 소수의 대규모 조직의 영역으로 남아 있지만, 특정 작업이나 도메인에 맞게 해당 모델을 맞춤화하는 것은 일반적인 요구 사항입니다. 그러나 모델의 수십억 개의 매개변수를 모두 업데이트하는 전체 미세조정은 사전 훈련과 동일한 계산 부담을 많이 수반하며, 방대한 양의 GPU 메모리와 계산 시간이 필요합니다.[30] 매개변수 효율적 미세조정(PEFT) 방법은 강력한 해결책으로 부상했습니다. PEFT의 핵심 원칙은 사전 훈련된 모델의 가중치 대부분을 동결하고 매우 적은 수의 새로운 또는 선택된 매개변수만 훈련하여 맞춤화에 필요한 자원 요구 사항을 대폭 줄이는 것입니다.[32, 33]

3.1.1 저랭크 적응(LoRA)

저랭크 적응(LoRA)은 가장 두드러지고 널리 채택된 PEFT 기술입니다.[33] 이는 적응 중 모델의 가중치 행렬 변화가 낮은 "내재적 순위"를 갖는다는 경험적 관찰에 기반합니다.[34] 전체 대형 가중치 행렬($W$)을 업데이트하는 대신, LoRA는 트랜스포머의 각 대상 레이어에 작고 훈련 가능한 저랭크 행렬 쌍($A$ 및 $B$)을 주입합니다. 미세조정 중에 원래 가중치 $W$는 동결되고 $A$와 $B$의 매개변수만 업데이트됩니다. 출력은 이 작은 행렬의 곱($B \cdot A$)을 원래 레이어의 출력에 더하여 수정됩니다. 이 접근 방식은 훈련 가능한 매개변수 수를 10,000배 이상 줄일 수 있습니다.[32] LoRA의 주요 장점은 추론을 위해 훈련된 행렬 $A$와 $B$를 원래 가중치 행렬 $W$에 수학적으로 다시 병합할 수 있다는 것입니다. 즉, LoRA 적응 모델은 원래 모델에 비해 추가 지연 시간이 전혀 발생하지 않습니다.[32, 35]

3.1.2 LoRA 파생물 및 향상

LoRA의 성공은 효율성을 더욱 높이는 관련 기술 제품군에 영감을 주었습니다:

• QLoRA (양자화된 LoRA): 이 방법은 LoRA를 양자화와 결합합니다. 기본 가중치가 이미 더 낮은 정밀도(예: 4비트)로 양자화된 모델에 LoRA 미세조정 프로세스를 적용합니다.[32] 이는 기본 모델을 보유하는 데 필요한 메모리 공간을 극적으로 줄여, 단일 엔터프라이즈 GPU에서 매우 큰 모델(예: 70B 매개변수)을 미세조정하는 것을 가능하게 합니다. 이는 그렇지 않으면 다중 GPU 서버가 필요한 작업입니다.[32]
• MoRA (고랭크 적응): 2024년 논문은 LoRA의 핵심 저랭크 가정을 반박하며, 상당한 새로운 지식 암기가 필요한 작업의 경우 고랭크 업데이트가 더 효과적이라고 주장합니다. MoRA는 LoRA와 비슷한 수의 훈련 가능한 매개변수를 사용하면서 고랭크 업데이트를 수행하기 위해 정방 행렬을 포함하는 다른 수학적 공식을 사용합니다. 실험 결과 MoRA는 메모리 집약적인 작업에서 LoRA를 능가하는 것으로 나타났습니다.[36]
• PARA (프롬프트 인식 표현 조정): 이 새로운 PEFT 기술은 숨겨진 표현을 직접 수정하여 모델을 미세조정합니다. 입력 프롬프트에 따라 조정 벡터를 생성하기 위해 경량 생성기를 사용하여 LoRA에 비해 다중 테넌트 서빙 환경에서 향상된 성능과 낮은 지연 시간을 제공합니다.[37]

PEFT 기술의 개발은 단순한 기술적 최적화가 아니라 주요 산업 동향인 수직적 AI(Vertical AI)의 핵심 동력입니다. 맞춤화를 위해 타사 API를 사용하는 데 따른 높은 비용과 데이터 개인 정보 보호 문제는 의료, 금융, 법률과 같은 규제되거나 전문화된 산업에서 LLM 채택에 상당한 장벽이었습니다.[32] LoRA 및 QLoRA와 같은 PEFT 방법은 이러한 장벽을 우회합니다. 이를 통해 조직은 강력한 오픈 웨이트 기초 모델을 가져와 특정 도메인 용어, 데이터셋 및 작업에 안전하고 저렴하게 사내에서 적응시킬 수 있습니다. 이는 범용 모델을 고도로 전문화된 독점 자산으로 변환하여, 경쟁 환경을 가장 큰 기본 모델을 구축할 수 있는 사람에서 기존 모델을 가장 효과적으로 적용하고 적응하여 가치 있는 도메인 특정 문제를 해결할 수 있는 사람으로 전환합니다.

3.2 모델 압축: 양자화 및 지식 증류

모델의 최종 배포, 특히 휴대폰이나 엣지 장치와 같은 자원이 제한된 하드웨어의 경우 추가 압축이 종종 필요합니다. 양자화 및 지식 증류는 추론을 위해 더 작고, 더 빠르며, 더 효율적인 모델을 만드는 데 사용되는 두 가지 주요 기술입니다.

3.2.1 양자화

양자화(Quantization)는 모델의 가중치 및/또는 활성화의 수치 정밀도를 줄이는 과정입니다.[8, 38] 숫자를 32비트 또는 16비트 부동 소수점 값으로 저장하는 대신, 가장 일반적으로 8비트 또는 4비트 정수와 같은 더 낮은 정밀도 형식으로 변환합니다.[35, 38] 이는 두 가지 주요 이점이 있습니다: 모델의 메모리 공간을 크게 줄이고, 저정밀도 산술에 대한 특수 지원이 있는 하드웨어에서 계산을 극적으로 가속화할 수 있습니다. 양자화는 메모리와 전력이 제한된 엣지 장치에 LLM을 배포하는 데 중요한 기술입니다.[38] 앞서 언급했듯이, 양자화의 스케일링 법칙에 대한 연구는 더 큰 모델이 이 압축으로 인해 발생할 수 있는 잠재적인 정확도 저하에 더 탄력적이어서 가장 큰 모델에 특히 효과적인 전략임을 시사합니다.[15]

3.2.2 지식 증류(KD)

지식 증류(Knowledge Distillation)는 더 작고 "학생" 모델이 더 크고 더 유능한 "교사" 모델의 행동을 모방하도록 훈련되는 압축 기술입니다.[38, 39, 40] Hinton 등의 핵심 통찰력은 학생 모델이 교사의 최종 "하드" 예측(예: 가장 가능성 있는 다음 단어)뿐만 아니라 교사의 출력 어휘에 대한 전체 확률 분포(그의 "로짓")도 배워야 한다는 것입니다. 종종 온도 매개변수에 의해 부드러워지는 이 분포는 교사 모델이 어떻게 일반화하고 다른 가능한 출력 간에 보는 관계에 대한 풍부한 "어두운 지식"을 포함합니다.[41]

• 응용 프로그램: KD의 주요 응용 프로그램은 훨씬 더 큰 모델의 성능을 많이 유지하는 배포를 위한 작고 효율적인 모델을 만드는 것입니다.[38, 42] 두 번째로 점점 더 중요해지는 응용 프로그램은 능력 이전입니다. KD는 OpenAI의 GPT-4 또는 Anthropic의 Claude 3.5와 같은 강력하고 독점적인 폐쇄 소스 모델에서 더 작고 오픈 소스 모델로 고급 추론 및 지식 능력을 이전하는 핵심 전략입니다.[39, 43, 44] 독점 모델을 교사로 사용하여 고품질 데이터(예: 단계별 추론 추적 또는 도메인 특정 예제)를 생성함으로써 개발자는 더 유능한 오픈 소스 학생 모델을 훈련할 수 있습니다.
• 방법론: 이 분야는 학생이 교사 모델의 내부 매개변수 및 활성화에 완전히 접근할 수 있는 화이트박스 KD와 학생이 교사의 출력(최종 텍스트 또는 출력 확률)에 대한 API 액세스만 있는 블랙박스 KD를 구별합니다.[45, 46] 독점 모델을 증류할 때는 블랙박스 KD만 가능합니다.
• 자기 증류: 새로운 변형은 자기 증류(self-distillation)로, LLM이 자신을 개선하는 데 사용됩니다. 예를 들어, 모델은 문제에 대한 사고의 연쇄(chain-of-thought) 근거를 생성하도록 프롬프트될 수 있으며, 그런 다음 내재적 추론 능력을 향상시키기 위해 자신의 성공적인 추론 추적에 대해 미세 조정될 수 있습니다.[47]

---

4. 평가 및 창발적 능력: 중요한 것을 측정하기

LLM의 급속한 발전은 이를 평가하는 데 사용되는 전통적인 방법의 깊은 결함을 드러냈습니다. 커뮤니티는 현재 "평가 위기"에 처해 있으며, 정적 벤치마크가 의미 있게 진전을 측정할 수 있는지 의문을 제기하고 있습니다. 이는 모델이 확장됨에 따라 나타나는 "창발적 능력"의 본질과 씨름하면서 더 동적이고, 견고하며, 현실적인 평가 프레임워크로의 패러다임 전환을 이끌었습니다.

4.1 LLM 벤치마킹의 현황과 불만

LLM의 평가는 역사적으로 모델을 비교하고 진전을 추적하기 위해 표준화된 벤치마크에 의존해 왔습니다. 이는 여러 단계를 거쳐 진화했습니다:

• 초기 NLU 벤치마크: 일반 언어 이해 평가(GLUE)와 그보다 더 어려운 후속작인 SuperGLUE는 BERT와 같은 모델을 평가하는 표준이 된 다양한 NLU 작업 모음이었습니다.[48, 49, 50]
• 대규모 다중 작업 벤치마크: 모델이 성장함에 따라 벤치마크는 더 넓은 범위의 지식과 추론을 테스트하기 위해 범위가 확장되었습니다. 대규모 다중 작업 언어 이해(MMLU) 벤치마크는 초등 수학에서 전문 법률에 이르기까지 57개 과목에 대해 모델을 평가합니다.[49, 51] BIG-bench (모방 게임을 넘어서는 벤치마크)는 전통적인 NLP를 넘어서는 능력을 탐색하기 위해 200개 이상의 작업을 도입했습니다.[48]
• 전체론적 및 전문화된 프레임워크: HELM (언어 모델의 전체론적 평가)은 단일 점수 대신 정확성, 견고성, 공정성 및 효율성을 포함한 여러 축에 걸쳐 모델을 평가하는 프레임워크로 제안되었습니다.[48, 52] 동시에 수학적 추론(GSM8K), 코딩(HumanEval), 진실성(TruthfulQA)과 같은 특정 능력에 대한 전문화된 벤치마크가 개발되었습니다.[51, 53]

이러한 테스트의 확산에도 불구하고, 현재의 벤치마킹 패러다임이 근본적으로 결함이 있으며 진정한 능력의 신뢰할 수 있는 척도를 제공하지 못하고 있다는 공감대가 커지고 있습니다.[54, 55] 이 "평가 위기"는 여러 체계적인 문제에서 비롯됩니다:

1. 굿하트의 법칙과 리더보드 추격: "측정치가 목표가 되면, 그것은 더 이상 좋은 측정치가 아니다"라는 격언은 비판의 중심에 있습니다. 리더보드 순위에 대한 강한 집중은 개발자들이 진정한 언어 이해나 추론 능력을 발전시키는 대신 벤치마크의 특정 기벽과 패턴을 악용하여 모델을 최적화하도록 장려했습니다.[54, 56]
2. 데이터 오염: 중요하고 만연한 문제는 많은 인기 있는 공개 벤치마크의 테스트 세트가 사전 훈련에 사용되는 대규모 웹 스크랩 데이터셋에 존재한다는 것입니다. 결과적으로, 모델의 높은 점수는 문제를 해결하거나 새로운 문제에 일반화하는 능력이 아니라 답을 암기하는 능력을 반영할 수 있습니다.[57, 58]
3. 실제 세계와의 상관관계 부족: 이러한 인위적이고 정적인 벤치마크에서의 성능은 종종 실용적인 실제 작업에서의 견고한 성능으로 이어지지 않습니다. 리더보드 상위권에 있는 모델도 배포될 때 미묘하지만 중요한 방식으로 실패할 수 있습니다.[57, 59]
4. 피상적인 섭동에 대한 민감성: 최첨단 모델은 입력 프롬프트의 피상적인 변화에 놀라울 정도로 민감합니다. 질문의 표현, 객관식 옵션의 순서 또는 관련 없는 정보의 포함에 따라 성능이 극적으로 변동할 수 있으며, 이는 모델이 작업에 대한 깊고 근본적인 이해보다는 얕은 휴리스틱에 의존하고 있음을 나타냅니다.[54, 55]
5. LLM-as-Judge의 취약성: 다른 모델의 출력을 평가하기 위해 강력한 LLM(예: GPT-4)을 사용하는 것은 인기 있고 확장 가능한 평가 방법이 되었습니다. 그러나 이 접근 방식은 자체적인 편향 집합으로 가득 차 있습니다. LLM 심판은 상당한 자기 선호 편향(자신의 출력을 더 호의적으로 평가), 위치 편향(제시된 첫 번째 답변을 선호), 장황함 편향(더 긴 답변을 선호)을 나타내며, 이는 신뢰할 수 없고 오해의 소지가 있는 순위로 이어질 수 있습니다.[60]

표 2: 주요 LLM 평가 벤치마크에 대한 비판적 검토

벤치마크	주요 목적	주요 한계 및 비판 (2025년 기준)
GLUE / SuperGLUE	기초 자연어 이해(NLU) 능력.	현대 LLM에 의해 대체로 포화 상태이며, 이러한 작업에서의 성능은 고급 추론이나 생성 능력에 대한 좋지 않은 대리 지표입니다.
MMLU	57개 다양한 주제에 걸친 광범위한 다중 작업 지식 및 추론.	훈련 데이터로부터의 테스트 세트 오염 위험이 높습니다. 성능은 프롬프트 형식 및 표현에 매우 민감합니다.
BIG-bench	표준 NLP 작업을 넘어서는 광범위한 능력을 탐색합니다.	매우 광범위하여 잡음이 많고 해석하기 어려운 집계 점수를 초래합니다. 개별 작업 성능은 매우 가변적일 수 있습니다.
HELM	여러 지표(정확성, 공정성, 견고성 등)에 걸친 전체론적 평가.	포괄적이지만 구현하고 해석하기 복잡합니다. 집계된 점수는 다른 지표 간의 중요한 절충안을 가릴 수 있습니다.
HumanEval	프로그래밍 문제에 대한 코드 생성 능력을 평가합니다.	훈련 데이터(예: GitHub)에서 흔한 알고리즘 패턴의 암기에 취약합니다. 대규모 소프트웨어 엔지니어링 기술을 테스트하지 않습니다.
Chatbot Arena	쌍을 이루는 블라인드 비교를 통한 인간 선호도 평가(Elo 등급).	사실적 정확성이나 안전성보다는 스타일과 유용성에 대한 인간의 선호도를 반영합니다. 수다스러움에 최적화된 모델에 의해 조작될 수 있습니다.

4.2 창발적 능력의 수수께끼

LLM 연구에서 가장 매혹적이고 논쟁적인 주제 중 하나는 창발적 능력(emergent abilities) 현상입니다. 이는 소규모 모델에서는 관찰되지 않지만, 모델이 특정 규모(매개변수, 데이터 또는 컴퓨팅 측면에서)의 임계값을 초과하면 종종 갑자기 예측할 수 없게 나타나는 능력입니다.[61, 62, 63, 64] 표준적인 예로는 문맥 내 학습(in-context learning)(가중치 업데이트 없이 프롬프트의 몇 가지 예시로부터 작업을 수행하는 것), 다단계 산술, 그리고 사고의 연쇄(Chain-of-Thought, CoT) 추론(복잡한 문제를 중간 단계로 분해하는 것)이 있습니다.[8, 61, 65]

이 창발의 본질에 대해 활발한 학술적 논쟁이 진행 중입니다. 한 관점은 이것이 규모의 진정으로 새로운 속성이며, 복잡성의 양적 증가가 행동의 질적 변화로 이어진다는 것입니다. 그러나 더 비판적인 관점은 이러한 능력이 종종 환상이나 측정 인공물(measurement artifact)이라고 주장합니다.[66, 67] 이 견해는 능력의 "갑작스러운" 출현이 종종 실제로는 부드럽고 예측 가능하게 향상되고 있는 능력을 평가하기 위해 비선형적이거나 불연속적인 지표(예: 정확한 일치 정확도)를 선택한 결과라고 제안합니다.[67] 다른 연구는 많은, 만약 전부는 아니더라도, 비언어적 창발적 능력이 모델의 문맥 내 학습 능력과 방대한 암기된 지식 저장소의 조합의 발현으로 설명될 수 있다고 주장합니다.[61, 66, 68, 69, 70]

이 철학적 논쟁의 결과에 관계없이, 특정 기술적 메커니즘이 이러한 복잡한 행동의 핵심 동력이라는 것은 분명합니다. 문맥 내 학습은 다른 많은 것들을 뒷받침하는 기본 능력으로 널리 간주되며, 모델이 프롬프트의 내용에 따라 즉석에서 행동을 조정할 수 있게 합니다.[8, 66, 70] 사고의 연쇄와 같은 프롬프트 전략은 단순한 속임수가 아닙니다. 이는 모델의 잠재적 추론 능력을 이끌어내고 구조화하는 효과적인 기술이지만, 매우 대규모 모델에서만 효과적으로 작동하는 경향이 있습니다.[61]

4.3 평가의 미래: 동적 및 에이전트 기반 평가를 향하여

정적 벤치마크의 명백한 실패는 이 분야가 현대 LLM의 진정한 능력과 한계를 더 잘 평가할 수 있는 더 견고하고, 동적이며, 현실적인 평가 패러다임으로 나아가도록 강요하고 있습니다.[59, 71] 평가의 미래를 위한 주요 방향은 다음과 같습니다:

• 대화형 및 게임 기반 평가: 비디오 게임(예: Minecraft)과 같은 대화형 환경에서 모델을 평가하여, 동적 세계에서 계획, 공간 추론 및 장기 목표 실행을 입증해야 합니다.[71, 72]
• 에이전트 기반 평가: 단순한 질문-답변을 넘어, 복잡하고 종단 간 실제 세계 작업을 수행하는 자율 에이전트로서의 모델 능력을 테스트합니다. SWE-Lancer와 같은 새로운 벤치마크는 Upwork과 같은 플랫폼에서 스크랩한 실제 프리랜서 소프트웨어 엔지니어링 작업을 완료하는 능력에 대해 모델을 평가하여 경제적 유용성을 직접 측정합니다.[72]
• 인간 참여 및 선호도 기반 순위: 자동화된 지표의 한계를 인식하고, 인간 평가는 여전히 황금 표준으로 남아 있습니다. 인간 선호도에 기반한 Elo 등급을 생성하기 위해 블라인드, 쌍을 이루는 비교를 사용하는 Chatbot Arena와 같은 플랫폼은 정적 벤치마크보다 모델의 일반적인 유용성과 대화 품질의 더 신뢰할 수 있는 지표로 종종 간주됩니다.[51, 53]
• 견고성 및 적대적 테스트: 미래 평가의 중요한 구성 요소는 모델의 안전성과 신뢰성을 평가하기 위해 체계적으로 스트레스 테스트를 하는 것입니다. 이는 적대적 공격, 탈옥 시도를 통해 취약점을 탐색하고 분포 이동 하에서의 성능을 평가하는 것을 포함합니다.[73]

---

5. 기초 스택: 하드웨어 및 소프트웨어 조력자

LLM의 놀라운 발전은 단지 알고리즘 혁신의 결과가 아닙니다. 그것은 전문화된 하드웨어와 정교한 소프트웨어 프레임워크의 기초 스택 위에 구축되었습니다. 하드웨어와 소프트웨어 간의 이러한 공생 관계는 치열한 경쟁과 빠른 공동 진화를 특징으로 하는 생태계를 만들어냈으며, 한 계층에서의 발전이 다른 계층에서의 발전을 가능하게 하고 요구합니다.

5.1 AI 하드웨어 군비 경쟁: GPU, TPU, 그리고 그 너머

대규모 LLM을 훈련하고 배포하는 것은 범용 CPU에서는 계산적으로 다루기 어렵습니다. 트랜스포머 아키텍처에 내재된 대규모 행렬 곱셈과 병렬 데이터 처리는 전문화된 하드웨어 가속기의 사용을 필요로 합니다.[74, 75]

• GPU 지배(NVIDIA): 2025년 현재, NVIDIA의 그래픽 처리 장치(GPU)—H100, H200, B200 시리즈 등—는 대부분의 LLM 훈련 및 추론 워크로드의 사실상 표준으로 남아 있습니다. 그들의 지배력은 단지 하드웨어 성능 때문만이 아니라 CUDA 소프트웨어 플랫폼의 성숙도와 보편성에 깊이 뿌리박고 있습니다. 이 광범위한 생태계는 개발자에게 최적화된 라이브러리, 광범위한 프레임워크 지원(특히 PyTorch용), 그리고 모든 주요 클라우드 제공업체와 온프레미스 배포에서 사용할 수 있어 최대의 유연성을 제공합니다.[76, 77]

• 전문화된 가속기의 부상(Google TPU): 구글의 텐서 처리 장치(TPU)는 다른 철학을 나타냅니다. 그들은 처음부터 딥 러닝 계산을 가속화하는 한 가지 목적으로 설계된 응용 프로그램 특정 집적 회로(ASIC)입니다.[78, 79] TPU는 대규모 행렬 연산에 뛰어나며 AI 워크로드에 대해 GPU에 비해 와트당 우수한 성능을 제공하는 경우가 많습니다.[80] 구글이 수만 개의 TPU를 맞춤형 고속 상호 연결을 통해 고효율 "포드"로 연결하는 능력은 Gemini와 같은 구글 자체 주력 모델을 훈련하는 데 선호되는 플랫폼으로 만듭니다.[78] 그러나 이 힘은 유연성의 대가를 치릅니다. TPU는 주로 구글 클라우드 플랫폼을 통해 사용할 수 있으며 구글이 선호하는 프레임워크인 JAX 및 TensorFlow와 함께 사용할 때 가장 성능이 우수하여 어느 정도의 공급업체 종속을 만듭니다.[76, 80]

• 비교 분석 및 주요 동향: GPU와 TPU 사이의 선택은 GPU의 다재다능함과 광범위한 생태계 대 TPU의 기본 환경 내에서의 전문화된 효율성 및 확장성 사이의 절충을 포함합니다.[76, 80] 하드웨어 설계의 주요 동향은 데이터 이동 병목 현상을 완화하는 데 중점을 둡니다. 여기에는 전력 소모가 많은 컴퓨팅 장치에 공급하기 위해 칩 패키지에 직접 더 큰 캐시와 더 많은 고대역폭 메모리(HBM)를 통합하는 것과, 통신 집약적인 MoE 모델의 효율적인 분산 훈련에 특히 중요한 칩 간 통신 패브릭(NVIDIA의 NVLink 및 구글의 칩 간 상호 연결 등)을 더 빠르고 더 높은 대역폭으로 개발하는 것이 포함됩니다.[80]

5.2 소프트웨어 생태계: 프레임워크 및 라이브러리

이 전문화된 하드웨어를 프로그래밍하는 소프트웨어는 뚜렷하고 전문화된 계층으로 수렴되고 계층화되었습니다.

• 프레임워크 수렴: 2010년대 후반의 "프레임워크 전쟁"은 대체로 끝났습니다. PyTorch는 연구 커뮤니티에서 지배적인 프레임워크로 부상했으며 산업계의 새로운 개발을 위한 표준이 되고 있습니다. 유연하고 "파이썬다운" 인터페이스와 동적 계산 그래프(즉시 실행)는 빠른 프로토타이핑과 복잡하고 맞춤형 아키텍처를 구축하는 데 이상적입니다.[77, 81, 82, 83] TensorFlow는 TensorFlow Serving 및 TFLite(모바일/엣지용)와 같은 성숙한 배포 도구로 인해 대규모 생산 환경에서 강력한 입지를 유지하고 있지만, 연구에서의 점유율은 감소했습니다.[77, 84] JAX는 특히 성능의 최전선에 있는 연구소에서 선호하는 강력하고 성장하는 대안입니다. 함수형 프로그래밍 패러다임과 강력한 적시(JIT) 컴파일러 및 TPU와의 원활한 통합은 대규모, 고도로 최적화된 모델 훈련에 매우 적합합니다.[81, 83]

• 추상화 계층(Hugging Face): Hugging Face Transformers 라이브러리는 오픈 소스 AI 생태계의 초석이 되었습니다. 수천 개의 사전 훈련된 모델, 토크나이저 및 데이터셋에 대한 표준화된 고급 API를 제공함으로써 LLM 개발을 위한 "공용어"를 만들었습니다.[8, 84] 이 추상화 계층은 진입 장벽을 대폭 낮추어 개발자가 처음부터 구현할 필요 없이 최첨단 모델을 쉽게 다운로드, 실험 및 구축할 수 있도록 합니다.[77]

• 배포 및 추론 계층: 현대 LLM의 엄청난 규모는 핵심 프레임워크 위에 또 다른 전문화된 라이브러리 계층을 만드는 것을 필요로 했습니다.

  • 분산 훈련을 위해, DeepSpeed(Microsoft 제공) 및 PyTorch FSDP(완전 분할 데이터 병렬)와 같은 라이브러리는 수백 또는 수천 개의 GPU에 걸쳐 모델, 데이터 및 최적화기 상태를 분할하는 데 필요한 정교한 도구를 제공합니다.[81]
  • 추론을 위해, 처리량을 최대화하고 지연 시간을 최소화하기 위해 새로운 종류의 서빙 엔진이 등장했습니다. vLLM 및 SGLang과 같은 라이브러리는 연속 배치 및 PagedAttention과 같은 고급 기술을 구현하여 생성 중 GPU 활용도를 극적으로 향상시킵니다.[81]
  • 결과적으로, 생산 AI를 위한 표준 오픈 소스 스택은 컨테이너 오케스트레이션을 위한 Kubernetes, 분산 컴퓨팅 스케줄링을 위한 Ray, 핵심 프레임워크로서의 PyTorch, 그리고 최적화된 추론 서빙을 위한 vLLM의 조합으로 빠르게 수렴하고 있습니다.[81]

이러한 진화는 소프트웨어 스택의 계층화를 명확하게 보여줍니다. 현대 LLM 개발자는 더 이상 단일 프레임워크로 작업하지 않습니다. 대신, 그들은 뚜렷한 계층으로 구성된 모듈식 스택과 상호 작용합니다: 하드웨어 제어 계층(PyTorch, JAX), 확장 및 배포 계층(DeepSpeed, Ray), 모델 액세스 및 추상화 계층(Hugging Face), 그리고 최적화된 서빙 계층(vLLM). 이러한 전문화와 모듈성은 이 분야의 빠른 혁신 속도를 가능하게 합니다. 이는 연구팀이 확장 및 배포의 엄청난 기본 엔지니어링 복잡성을 처리하기 위해 견고한 표준화된 도구 생태계를 활용하면서 핵심 기여(예: 새로운 모델 아키텍처 또는 정렬 기술)에 집중할 수 있도록 합니다.

---

6. 중기 전망(3-5년): 거대한 도전과 연구 개척지

2025-2030년 기간을 내다보면, 대규모 언어 모델 분야는 새로운 거대한 도전에 직면할 준비가 되어 있습니다. 초점은 원시적인 능력을 입증하는 것에서 효율성, 신뢰성, 안전성 및 다중 모드 세계와의 더 깊은 통합을 보장하는 것으로 이동하고 있습니다. 다음 개척지들이 LLM 혁신의 다음 단계를 정의할 것입니다.

6.1 비용 길들이기: 경제적 및 환경적 필수 과제

LLM 규모의 기하급수적인 성장은 관련 비용의 기하급수적인 증가로 이어져 효율성에 대한 시급한 경제적 및 환경적 필수 과제를 만들었습니다.

• 재정적 비용: 최첨단 기초 모델을 훈련하는 비용은 수억 달러로 치솟았습니다. OpenAI의 GPT-4 훈련 컴퓨팅 비용은 약 7,800만 달러, 구글의 Gemini Ultra는 무려 1억 9,100만 달러로 추정됩니다.[85, 86, 87] 차세대 모델에 대한 예측은 훈련 실행당 10억 달러에 접근합니다.[88] 이 비용의 중요하고 종종 보고되지 않는 구성 요소는 훈련 및 정렬에 필요한 고품질 데이터셋을 생성하고 큐레이션하는 데 필요한 인력으로, 일부 분석에 따르면 컴퓨팅 비용 자체보다 몇 배 더 클 수 있습니다.[88]
• 에너지 소비: LLM의 환경 발자국은 점점 더 큰 우려가 되고 있습니다. GPT-3과 같은 모델을 훈련하는 데는 약 1,287 MWh의 전기가 소비되었습니다.[89, 90] 결정적으로, 훈련은 일회성 비용이지만 추론은 매일 수백만 명의 사용자에게 서비스를 제공하는 지속적인 과정입니다. Meta 및 Google과 같은 주요 연구소의 산업 보고서에 따르면 추론 워크로드는 수명 주기 동안 AI 시스템이 소비하는 총 에너지의 70-90%를 차지합니다.[91, 92] 이는 추론 에너지 최적화를 최우선 과제로 만듭니다.
• 지속 가능성으로의 경로: 이 분야는 이 비용 곡선을 구부리기 위한 해결책을 적극적으로 추구하고 있습니다. 주요 전략에는 전문가 혼합(MoE)과 같은 계산적으로 더 효율적인 아키텍처 채택, 와트당 우수한 성능을 가진 특수 하드웨어 개발, 양자화 및 지식 증류와 같은 모델 압축 기술의 광범위한 사용이 포함됩니다.[89, 93] 연구에 따르면 최적화된 디코딩 전략, 배치 처리 및 컴파일과 같은 추론 효율성 최적화 제품군을 적용하면 최적화되지 않은 기준선에서 추론의 총 에너지 사용량을 최대 73%까지 줄일 수 있습니다.[91]

6.2 근거 탐구: 환각 완화

방대한 지식에도 불구하고 LLM은 그럴듯하게 들리지만 사실적으로 부정확하거나 무의미한 응답을 생성하는 환각(hallucination)에 여전히 취약합니다. 이 근본적인 약점은 진실성이 가장 중요한 고위험 도메인에서 신뢰할 수 있는 배포에 대한 주요 장벽입니다.[14, 94, 95] 환각을 완화하기 위한 연구는 세 가지 주요 전선에 집중되어 있습니다:

• 검색 증강 생성(RAG): RAG는 사실성을 향상시키는 지배적인 패러다임입니다. 이는 LLM의 생성 과정을 외부의 검증 가능한 지식 소스(예: 기업 데이터베이스, 위키피디아 또는 실시간 웹 검색)에서 검색된 정보에 기반을 둡니다.[96, 97, 98] RAG 파이프라인은 순진한 "검색 후 읽기" 접근 방식에서 사용자 의도를 더 잘 이해하기 위한 쿼리 재작성, 가장 관련성 높은 정보를 우선 순위화하기 위한 문서 재순위 지정, 모델이 더 많은 정보를 검색할 시기를 학습하는 적응형 검색과 같은 고급 기술을 통합하는 정교한 모듈식 RAG 시스템으로 진화했습니다.[97, 98] 핵심 과제는 단순한 검색을 넘어 검색된 컨텍스트의 잡음이 많거나, 관련 없거나, 상충되는 정보를 견고하게 처리하는 것입니다.[94, 99, 100]
• 지식 그래프(KG) 통합: 보완적인 접근 방식은 LLM을 KG와 같은 구조화된 지식 기반과 통합하는 것입니다. KG는 정보를 개체와 관계의 네트워크로 나타내어 비구조화된 텍스트보다 더 신뢰할 수 있고 덜 모호한 사실 소스를 제공합니다.[101, 102] 이 통합은 사전 훈련 중에 사실적 지식을 주입하거나, 미세 조정 중에, 또는 추론 시 RAG의 한 형태로 다양한 단계에서 발생할 수 있습니다.[101] 연구는 KG 삼중항을 텍스트로 단순히 선형화하는 것을 넘어, 그래프 신경망(GNN)을 통한 더 네이티브한 통합이나 다중 모드 모델이 처리할 수 있도록 하위 그래프를 시각화하는 방법을 적극적으로 탐색하고 있습니다.[103, 104]
• 자가 수정 메커니즘: 이 연구 라인은 LLM이 자신의 실수를 비판하고 수정하는 능력을 조사합니다. 이것은 매우 바람직한 능력이지만, 연구에 따르면 내재적 자가 수정(모델이 자신의 지식에만 의존하는 경우)은 특히 복잡한 추론 작업에 대해 대체로 비효과적이라는 것이 일관되게 나타났습니다.[105, 106, 107] 병목 현상은 모델이 외부 신호 없이 자신의 오류를 안정적으로 감지하기 어렵다는 것입니다. 효과적인 자가 수정은 일반적으로 구문 오류를 확인하기 위한 코드 인터프리터, 사실을 확인하기 위한 웹 검색 또는 모델을 자신의 수정된 오류 데이터셋에 미세 조정하는 것과 같은 외부 피드백 루프를 필요로 합니다.[107, 108, 109]

6.3 윤리적 AI 및 선제적 편향 완화

LLM은 인터넷에서 인간이 생성한 방대한 텍스트 조각으로 훈련되며, 따라서 성별, 인종, 문화 및 정치적 편향을 포함하여 해당 데이터에 존재하는 사회적 편향의 전체 스펙트럼을 필연적으로 학습하고, 반영하며, 종종 증폭시킵니다.[110, 111, 112] 이를 해결하는 것은 중요한 윤리적 과제이며 집중적인 연구 및 규제 조사의 초점입니다.

기술적 편향 완화 전략은 일반적으로 개입하는 LLM 수명 주기 단계에 따라 분류됩니다 [111, 113]:

• 전처리: 소수 집단의 표현을 늘리기 위한 데이터 증강, 유독하거나 고정관념적인 콘텐츠를 제거하기 위한 필터링, 더 균형 잡힌 데이터셋을 만들기 위한 인스턴스 재가중과 같은 훈련 데이터 자체에 대한 개입.
• 훈련 중: 편향된 예측을 처벌하기 위해 손실 함수에 공정성 제약 조건을 추가하거나, 인구 통계학적 상관 관계에 대해 모델을 견고하게 만들기 위해 적대적 훈련을 사용하는 것과 같은 모델의 훈련 과정에 대한 수정.
• 후처리: 유해한 언어를 필터링하거나 편향된 진술을 더 중립적으로 재작성하는 것과 같이 추론 시 모델의 출력에 적용되는 기술.

이러한 기술적 접근 방식은 진공 상태에서 존재하지 않습니다. 그들은 EU AI 법 및 중국의 생성형 AI 서비스 관리에 관한 임시 조치와 같은 성장하는 글로벌 AI 규제망에 대응하고 이를 예상하여 점점 더 개발되고 있습니다.[24, 114] 이러한 법적 프레임워크는 투명성, 책임성 및 감사 가능한 편향 완화에 대한 새로운 요구 사항을 만들어 기술과 정책 간의 강력한 피드백 루프를 구축하고 있습니다.

6.4 텍스트를 넘어서: 다중 모드 미래

텍스트, 이미지, 오디오, 비디오 등 여러 데이터 양식을 통합하는 것은 AI의 다음 주요 개척지로 널리 간주되며, 세계에 대한 보다 전체적이고 인간과 같은 이해를 가진 모델을 구축하는 것을 목표로 합니다.[115, 116] OpenAI의 GPT-4o 및 Google의 Gemini와 같은 주력 모델은 이미 강력한 다중 모드 기능을 주류로 만들어 사용자가 텍스트와 이미지를 원활하게 조합하여 상호 작용할 수 있도록 했습니다.[117, 118]

그러나 진정으로 깊고 견고한 다중 모드를 달성하는 것은 향후 3-5년간 연구의 초점이 될 중요한 기술적 장애물을 제시합니다 [115]:

• 데이터 가용성: 주요 병목 현상은 대규모, 고품질 및 잘 정렬된 다중 모드 데이터셋의 부족입니다. 기초 모델 훈련에 필요한 규모로 텍스트, 이미지 및 오디오를 효과적으로 연결하는 데이터셋을 만드는 것은 기념비적인 과제입니다.
• 교차 모드 추론: 현재 모델은 이미지 캡션이나 이미지에 대한 직접적인 질문에 답하는 것과 같은 간단한 교차 모드 작업에 능숙합니다. 다음 단계는 오디오 클립으로 설명되고 다이어그램으로 설명된 수학 단어 문제를 해결하는 것과 같이 다른 양식의 정보를 종합하는 복잡한 다단계 추론을 가능하게 하는 것입니다.
• 통합 표현: 핵심 연구 문제는 모델이 일관되게 처리할 수 있는 공유 의미 공간으로 이질적인 데이터 유형을 효과적으로 투영하는 방법을 찾는 것입니다.
• 생성적 다중 모드: 모델이 다중 모드 입력을 처리할 수 있지만, 동기화되고 고충실도의 다중 모드 출력(예: 동적으로 생성된 해당 내레이션 및 사운드트랙이 있는 비디오)을 생성하는 것은 여전히 엄청난 과제로 남아 있습니다.

6.5 메모리 및 컨텍스트 확장

단일 상호 작용 내에서 정보를 처리하는 LLM의 능력은 폭발적으로 성장했습니다. 이는 주로 모델이 한 번에 고려할 수 있는 정보의 양(토큰 단위로 측정)인 컨텍스트 창으로 측정됩니다.

• 긴 컨텍스트 혁명: 컨텍스트 창은 기하급수적으로 확장되어 GPT-3(2020)의 2,048 토큰에서 Google의 Gemini 1.5(2024)의 100만 토큰, Meta의 Llama 4(2025)의 1,000만 토큰으로 보고되었습니다.[119, 120] 이를 통해 전체 책, 긴 법률 계약서 또는 복잡한 코드베이스를 한 번에 분석하는 것과 같은 완전히 새로운 사용 사례가 가능해졌습니다.[121, 122]
• 긴 컨텍스트의 한계: 그러나 긴 컨텍스트 창이 만병통치약은 아닙니다. 모델은 종종 "중간에서 길을 잃는" 문제로 고통받으며, 매우 긴 컨텍스트의 중간에 위치한 정보에 대한 회상 및 추론 능력이 저하됩니다. 또한, 추론의 재정적 비용과 지연 시간은 입력 컨텍스트의 길이에 따라 종종 이차적으로 증가하여 전체 창을 사용하는 것이 계산적으로 비쌉니다.[119]
• 작업 기억에서 장기 기억으로: 각 새로운 세션마다 재설정되는 일시적인 단기 작업 기억의 한 형태인 컨텍스트 창과 진정한 영구적인 장기 기억을 구별하는 것이 중요합니다.[123] 모델이 며칠, 몇 주 또는 몇 달에 걸쳐 과거 대화의 사실, 선호도 및 세부 정보를 기억할 수 있게 하는 진정한 장기 기억을 달성하는 것은 핵심 연구 개척지입니다. 이는 순전히 매개변수적 기억을 넘어 LLM이 벡터 데이터베이스나 지식 그래프와 같은 구조화된 외부 메모리 저장소에서 읽고 쓸 수 있는 하이브리드 시스템을 구현하여 상호 작용의 영구적이고 상태 저장 기록을 생성해야 할 가능성이 높습니다.[123, 124]

6.6 블랙박스 열기: 설명가능성 및 해석가능성(XAI)

LLM의 "블랙박스" 특성—특정 출력을 생성하는 이유를 완전히 이해할 수 없음—은 신뢰와 책임이 협상 불가능한 의학, 금융, 법률과 같은 고위험, 안전이 중요한 영역에서의 채택에 대한 주요 장벽입니다.[125, 126, 127] 설명가능한 AI(XAI) 분야는 이러한 모델을 더 투명하고 해석 가능하게 만드는 방법을 개발하는 것을 목표로 합니다.

LLM 설명가능성에 대한 현재 연구는 크게 두 진영으로 나뉩니다:

• 사후 설명: 이러한 방법은 모델 자체를 변경하지 않고 훈련된 후 모델의 행동을 설명하려고 시도합니다. 여기에는 특정 예측에 대한 LLM의 행동을 근사화하기 위해 더 간단하고 해석 가능한 모델을 구축하는 LIME 및 SHAP과 같은 로컬 설명 기술과, 입력의 어떤 부분이 가장 영향력이 있었는지 추론하기 위해 어텐션 가중치를 분석하는 방법이 포함됩니다.[126, 128] 그러나 일반적인 비판은 이러한 설명이 종종 모델의 실제 내부 추론 과정에 충실하지 않다는 것입니다. 예를 들어, 어텐션 가중치가 항상 특징 중요도와 상관관계가 있는 것은 아닙니다.[129]
• 기계적 해석가능성: 이것은 신경망 자체를 리버스 엔지니어링하는 것을 목표로 하는 더 근본적인 접근 방식입니다. 이 분야의 연구자들은 추상적인 개념과 계산 회로가 모델의 가중치 및 활성화 내에서 어떻게 표현되고 구현되는지 이해하려고 합니다. 궁극적인 목표는 모델의 내부 계산을 인간이 이해할 수 있는 알고리즘에 매핑하는 것입니다.

확장 가능하고, 충실하며, 인간 중심적인 설명 프레임워크를 개발하는 것은 가장 중요한 과제입니다. XAI의 진전은 신뢰를 구축하는 것뿐만 아니라 더 효과적인 디버깅, 공정성 보장, 숨겨진 잠재적으로 위험한 모델 목표 감지, 그리고 궁극적으로 더 견고하고 신뢰할 수 있는 AI 시스템을 구축하는 데 중요합니다.[125, 130]

---

결론

대규모 언어 모델 분야는 2025년에 중요한 변곡점에 도달했습니다. "확장만을 위한 확장"이라는 만트라에 의해 주도된 초기 골드러시는 더 미묘하고 실용적인 시대로 성숙하고 있습니다. 기술적 개척지는 더 이상 매개변수 수라는 단일 지표에 의해 정의되지 않고, 아키텍처 효율성, 데이터 품질, 정렬 정교성 및 계산 가능성의 복잡한 상호 작용에 의해 정의됩니다. 전문가 혼합 및 매개변수 효율적 미세조정의 부상은 단순한 최적화가 아니라 새롭고, 더 분산되고, 민주적인 생태계의 근본적인 동력입니다. 이를 통해 특정 도메인에 맞춤화된 다양한 전문 모델을 생성할 수 있으며, 단일 목적의 범용 시스템을 넘어 수직적 AI의 미래로 나아갈 수 있습니다.

그러나 이러한 진전은 일련의 심오하고 지속적인 도전에 의해 완화됩니다. 정적 벤치마크의 신뢰할 수 없음은 우리가 진정한 능력을 어떻게 측정하는지에 대한 필요하고 건강한 재고를 강요했습니다. 환각의 유령은 LLM의 신뢰성을 계속해서 약화시켜 RAG 및 KG 통합과 같은 견고한 기반 기술 개발을 최우선 연구 과제로 만듭니다. 동시에, 편향 및 안전에 대한 시급한 윤리적 우려와 결합된 막대한 계산 및 에너지 비용은 미래 개발의 궤적을 형성할 중요한 가드레일을 형성합니다.

3-5년 전망은 거대한 도전이 원시적인 능력을 달성하는 것에서 신뢰성, 근거성 및 안전성을 보장하는 것으로 이동할 미래를 가리킵니다. 가장 중요한 돌파구는 아마도 다른 도메인의 교차점에서 발생할 것입니다: 세계를 보다 인간과 같이 인식하고 추론할 수 있는 진정한 다중 모드 모델을 구축하는 것; 더 깊고 개인화된 상호 작용을 촉진할 수 있는 영구적인 장기 기억을 가진 시스템을 개발하는 것; 그리고 모델 행동을 투명하고 해석 가능하게 만들기 위해 "블랙박스"를 해독하는 것. LLM 혁명의 궁극적인 성공은 단순히 더 큰 모델을 구축하는 것이 아니라 더 똑똑하고, 더 효율적이며, 근본적으로 더 신뢰할 수 있는 모델을 구축하는 데 달려 있을 것입니다.