AI기반 자연어처리
AI기반 자연어처리
Home / AI기반 자연어처리

 

Artificial Intelligence-based natural language processing

초거대 언어모델(LLM) 연구 및 LLM기반 서비스 연구(Research on LLM and its applications to Services)
초거대 언어모델 기반 기술 연구
최신 NLP 기술 심층 분석 (Transformer, Pre-trained LLM, ChatGPT 등)
초거대 언어모델(LLM) 경량화를 위한 Quantization, Pruning, Knowledge distillation 기법 연구
LLM 모델에 대한 효율적인 training 기법 연구(강화학습 연동, Dynamic batching 기법 등)
LLM 모델을 위한 데이터 augmentation, synthetic data, 학습 데이터 생성 기법 연구
LLM 기반 도메인 특화 응용 연구
응용 도메인 특화 프롬프트 엔지니어링 방안 연구
강화학습 기반 도메인 특화 LLM Application 구현 방안 연구
도메인 특화 LLM training data 생성 연구
자연어 처리(NLP) 전처리 기술 연구
개체명 인식 기반 데이터 분석 기술 연구
도메인 특화 토크나이저 기술 연구
도메인 특화 텍스트 전처리 파이프라인 구현 연구

[ChatGPT에서 사용한 LLM 모델 training 방법론]

딥러닝 기반의 테스트 스크립트 생성 모델 개발(Research on Test Script Generation Automation System on Deep Learning)
인공지능 기반 테스트 스크립트 생성 RPA(Robotic Process Automation) 시스템 개발
Transformer[1], GPT-2[2] 등을 활용한 업무 특화 자연어 생성 모델 구현 연구
Beam Search, Top-K, Top-P 등 다양한 decoding 전략 연구
LG전자 에어솔루션연구소와 긴밀한 협력을 통한 산학과제 진행

[테스트 스크립트 시스템 구성도 (LG전자 산학과제)]