Artificial Intelligence-based natural language processing
초거대 언어모델(LLM) 연구 및 LLM기반 서비스 연구(Research on LLM and its applications to Services)
- ■
- 초거대 언어모델 기반 기술 연구
- –
- 최신 NLP 기술 심층 분석 (Transformer, Pre-trained LLM, ChatGPT 등)
- –
- 초거대 언어모델(LLM) 경량화를 위한 Quantization, Pruning, Knowledge distillation 기법 연구
- –
- LLM 모델에 대한 효율적인 training 기법 연구(강화학습 연동, Dynamic batching 기법 등)
- –
- LLM 모델을 위한 데이터 augmentation, synthetic data, 학습 데이터 생성 기법 연구
- ■
- LLM 기반 도메인 특화 응용 연구
- –
- 응용 도메인 특화 프롬프트 엔지니어링 방안 연구
- –
- 강화학습 기반 도메인 특화 LLM Application 구현 방안 연구
- –
- 도메인 특화 LLM training data 생성 연구
- ■
- 자연어 처리(NLP) 전처리 기술 연구
- –
- 개체명 인식 기반 데이터 분석 기술 연구
- –
- 도메인 특화 토크나이저 기술 연구
- –
- 도메인 특화 텍스트 전처리 파이프라인 구현 연구
[ChatGPT에서 사용한 LLM 모델 training 방법론]
딥러닝 기반의 테스트 스크립트 생성 모델 개발(Research on Test Script Generation Automation System on Deep Learning)
- ■
- 인공지능 기반 테스트 스크립트 생성 RPA(Robotic Process Automation) 시스템 개발
- –
- Transformer[1], GPT-2[2] 등을 활용한 업무 특화 자연어 생성 모델 구현 연구
- –
- Beam Search, Top-K, Top-P 등 다양한 decoding 전략 연구
- ■
- LG전자 에어솔루션연구소와 긴밀한 협력을 통한 산학과제 진행