ChatDLM은 Block Diffusion과 Mixture-of-Experts (MoE) 구조를 깊이 있게 통합하여, 세계에서 가장 빠른 추론 속도를 실현했습니다.
동시에 131,072 tokens의 초장기 문맥을 지원합니다.
그 작동 원리는 다음과 같습니다: 입력을 여러 작은 블록으로 나누고, 다양한 '전문가' 모듈로 동시에 처리한 후, 지능적으로 통합하여 빠르면서도 정확한 결과를 도출합니다.
주요 기능은 무엇인가요?
-
대답 속도가 매우 빠르며, 채팅을 더 자연스럽고 유연하게 만듭니다.
-
사용자가 출력의 스타일, 길이, 어조 등의 세부 사항을 '지정'할 수 있습니다.
-
한 문단 내의 특정 부분만 수정할 수 있으며, 전체 내용을 다시 생성할 필요가 없습니다.
-
여러 요구 사항을 동시에 처리할 수 있습니다. 예를 들어, 여러 가지 요구 사항이 포함된 답변을 생성하도록 요청할 수 있습니다.
-
강력한 번역 능력을 가지고 있으며, 다양한 언어 간에 정확하게 변환할 수 있습니다.
-
사용되는 계산 자원이 적어, 사용 비용이 낮습니다.
