[Large Language Model] LaMDA

LaMDA (Language Model for Dialogue Applications) (2021.05)

Google, 173 billion parameters, Not Open Source, No API or Downloads

약 1370억개의 파라미터, 약 30억개의 문서, 11억개의 대화를 사전학습 데이터로 사용

 

사용자와 보다 자연스럽고 매력적인 대화를 할 수 있도록 설계된 모델입니다.

 

LaMDA가 다른 언어 모델과 차별화되는 점은 LaMDA가 대화에 대해 훈련되었고 모델이 다른 유형의 언어와 구분되는 개방형 토론(open-ended discussions)을 설정하는 다양한 미묘함을 식별할 수 있다는 사실입니다.

LaMDA의 잠재적 사용 사례는 고객 서비스 및 챗봇에서 개인 비서 등에 이르기까지 다양합니다.

LaMDA 자체는 Meena라는 이전 Google Chatbot을 기반으로 합니다.

LaMDA가 제공하는 대화형 서비스는 BARD라고 하며 '곧' API를 통해 제공될 예정입니다.

 

---

References

• https://vectara.com/top-large-language-models-llms-gpt-4-llama-gato-bloom-and-when-to-choose-one-over-the-other/