ngrok2 LangChain | 한국어 llm 모델, LangServe, local ollama, NGROK 배포 llm 관련 다양한 프레임워크들이 있는데 대부분 이 OpenAI API 에 의존하고 있다. 되도록 이를 피하는 예제를 위주로 실습 중인데 테디노트에서 관심있는 주요 항목들에 대한 실습 영상을 올려주셔서 관련 진행 내용을 포스팅해본다무료로 한국어🇰🇷 파인튜닝 모델 받아서 나만의 로컬 LLM 호스팅 하기(LangServe) + RAG 까지!! (학습 콘텐츠 출처: 테디노트)( 참고로 llm을 로컬 컴퓨터에 다운로드해서 손쉽게 쓸 수 있도록 도와주는 툴은 대표적인 방법은 크게 ollama, AnythingLLM, Lm studio 세가지 정도가 있는데 테디노트의 이번 예제는 올라마 ollama를 활용하고 있다. ) 실습 과정1. HuggingFace-Hub에서 한국어🇰🇷 파인튜닝 모델 받기1) 실습.. 2024. 4. 26. LLM | ollama 3부. 온라인(내 도메인으로) 브라우저에서 실행하기 - ollama 1부. 로컬 터미널에서 실행하기 : Linux(wsl 2), MacOS - ollama 2부. 로컬 브라우저에서 실행하기 : open-webui 👉 ollama 3부. 온라인(내 도메인으로) 브라우저에서 실행하기 : url로 친구과 함께 사용하기 - ollama 4부. 검색증강 RAG 적용하기 - ollama 5부. 이미지 인식 적용하기 - (준비 중) ollama 6부. MOE mixture of exports 방식 적용하기 ollama browser - online, url 접속 1. ngrok 가입한 후 로그인 하기 1) ngrok 란? ngrok | Unified Application Delivery Platform for Developers ngrok is a secure uni.. 2024. 3. 8. 이전 1 다음
