LLaMA2 소개와 테스트 (1)

LLaMA2

페이스북에서 사명을 바꾼 Meta에서 chatGPT에 대항하는 LLama2를 상업적으로 이용 가능한 23년 7월 20일 오픈소스로 공개했습니다.

누구나 신청하면 자동으로 메일로 학습모델을 다운 받을 수 있습니다. [접속링크]

홈페이지에서 신청을 하면 메일로 다운로드하는 방법과 다운할 때 필요한 url을 보내줍니다

다운로드 링크로 접속하면 download.sh파일을 받고 url을 입력 시켜주면 다운로드 할 수 있습니다. 자세한 내용은 이후에 포스팅해보겠습니다.

LLaMA2 성능

Llama 2: 최첨단 오픈 액세스 언어 모델

Meta는 최근에 최첨단 오픈 액세스 대형 언어 모델인 Llama 2를 출시하였습니다. 주요 자연어 처리 플랫폼인 Hugging Face는 Llama 2를 생태계에 완벽히 통합하여 이 출시를 전적으로 지원하고 있습니다. Llama 2에 관한 주요 정보는 다음과 같습니다:

• Llama 2는 70억에서 700억까지의 매우 큰 매개 변수로 사전 학습된 언어 모델과 세부 조정된 언어 모델을 제공합니다. 이러한 모델들은 Llama 1 모델보다 더 많은 토큰을 학습하고 더 긴 문맥 길이를 가지고 있습니다.
• Llama 2-Chat라고도 알려진 세부 조정된 모델들은 인간 피드백으로부터 강화 학습을 이용하여 대화형 응용 프로그램에 최적화되었습니다. 이들은 도움과 안전성 평가에서 인상적인 결과를 얻었으며, 다른 오픈 모델들과 비교하여 뛰어난 성능을 보여주었으며, ChatGPT와도 비교 가능한 결과를 달성하였습니다.

LLaMa-2-Chat의 가장큰 장점은 OpenAI와 데이터를 공유할 필요 없이 ChatGPT 아날로그를 생성할 수 있는 잠재력입니다. 이를 통해 사용자는 데이터에 대한 완전한 제어를 유지하면서 모델의 기능을 활용할 수 있어 무궁무진한 잠재력을 가지고 있습니다.

테스트

chatGPT3.5와 chatGPT4 그리고 LLaMA2-70B로 질문을 해서 테스트를 해봤습니다.

우리나라 대통령이 누군지 물어봤는데요

chatGPT3.5

chatGPT3.5에서 질문을 해봅니다.

2021년의 정보밖에 없어서 제대로 된 답변을 못해주네요

chatGPT4.0

chatGPT는 유료버전을 사용하지 않아 뤼튼AI를 이용해서 질문해보았습니다. 놀랍게도 GPT3.5에 비해 비교적 최근 정보까지 학습되어 있어 올바른 대답을 해주네요

하지만 올바른 정보를 반영하지 못하고 임기가 2028년 까지라고 잘못 대답해주네요.

LLama2

같은 질문을 LLama2에서 해봅니다. 테스트는 링크에서 진행했습니다. LLama2출시가 가장 최근이므로 최근 정보를 GPT4보다 많이 담고 있을 것으로 예상되었는데 테스트를 해봤을 때 결과적으로 매우 정확한 답변을 해주었습니다.

정확한 날짜까지 알려주면서 임기 기간을 알려주네요. 앞에서 GPT3.5나 4는 실시간 정보를 알아낼 수 없다고 답변했었는데요. 한번 같은 질문을 해보았습니다.

제대로 답변을 한 것이 맞는지 틀린 지는 알 수 없지만 인터넷에 접속해서 정보를 알려 줄 수 있다고 답변을 하네요.

주식 가격을 알려 달라고 요청했는데요

결과는 역시나 직접적으로 실시간의 정보를 가져 올 순 없습니다. 비록 실시간 정보를 가져올 수 있다고 거짓말?? 을 했지만 최근의 정보를 필요한 질문을 한다면 LLama2가 유용할 수 있을 것 같습니다.