라마3 내 컴퓨터에 설치하기
늘 그렇듯 Copilot에 물어보았으나 대화를 하기 싫은지 계속 오류를 냈다.
내용이 없어서 그런건지 아니면 경쟁 LLM이라 그런건지 정확히는 모르겠다.
그래서 구글링 해서 진행했다.
1. MST 프로그램 설치
Msty - Using AI Models made Simple and Easy
AI beyond just plain chat. Private, Offline, Split chats, Branching, Concurrent chats, Web Search, RAG, Prompts Library, Vapor Mode, and more. Perfect LM Studio, Jan AI, and Perplexity alternative. Use models from Open AI, Claude, Ollama, and HuggingFace i
msty.app
중간에 Download Msty에서 해당되는 운영체계와 GPU 확인하고 다운로드 후 설치한다.
2. 사용하기
설치 완료 하니 Gemma 2B가 기본적으로 깔리는 듯 하다. Gemma 2B가 뭔지 검색해본다.
Gemma 2B는 온디바이스에 탑재가능한 경량 LLM로, 클라우드 기반 서비스에 의존하지 않고도 고급 자연어 처리(NLP) 기능을 제공합니다. 이는 데이터 프라이버시와 보안에 대한 우려를 크게 줄이면서도, 실시간으로 개인화된 피드백과 정보를 사용자에게 제공할 수 있게 합니다.
설치가 매우 간단하다!!!
근데 라마를 사용하기로 했으니 추가로 LLM을 설치 진행한다. 라마 3.2를 설치해 본다.
오른쪽에 보니 coding도 적혀있는거 보니 코딩도 가능한 것으로 보인다.
3. 성능확인하기
이미지 생성 가능하냐고 단순하게 물어보니 아래와 같이 답변을 했다.
画像 생성은 posible하다!
네, 현재의 기술로 이미지 생성이 가능합니다. 다양한 방법으로 이미지를 생성할 수 있습니다:
가이드 라인 sử dụng:-human을 가uide 라inem으로 사용하여 이미지를生成하는 방법입니다.
** AI 기반 이미지 생성**: 인간의 창조력을 활용한 AI를 이용하여 이미지를 만들 수 있습니다.
유저 인터페이스: 사용자에게 특정 그림이나ภาพ을 생성하고 싶은 것과 같은 정보를 제공할 경우, automatically 이미지生成이 가능합니다.
가uide 라인 sử dụng:
이 시대에는 가이드 라인을 통해 이미지를 생성할 수 있습니다.
일반적인 방법으로 이미지를 만들 수 있지만 많은 시간과 노력의 소비에 지 만화입니다.
각종 언어를 섞어서 보여준다.
검색해 보니 한국어는 아직 미흡하다고 한다.
https://www.aitimes.com/news/articleView.html?idxno=159080
국내 AI 기업들 "라마 3, 성능 좋아졌지만 한국어는 아직 부족" - AI타임스
국내 주요 인공지능(AI) 기업들이 메타의 \'라마 3\'에 대한 인상을 내놓았다. 라마 2보다 전반적인 성능이 좋아진 것은 확실하지만, 한국어 능력은 여전히 아쉽다는 평가다.메타는 19일 라마 3 시
www.aitimes.com
라마 3.1 8B를 깔아서 좀더 가지고 놀아봐야 할 듯 하다.
오늘은 여기까지