LLM | perplexity 퍼플렉서티

 

perplexity 접속화면

퍼플렉서티는 (특히, 아직까진 미국에서)최근 주목받고 있는 AI 기반 검색 엔진이다. 본질은 검색엔진, 그 엔진은 AI 모델, 인터페이스는 채팅의 형태를 차용하고 있다. 다만 기존의 검색 엔진 또는 llm 계열과 달리(?), 퍼플렉시티 AI는 사용자가 자연어로 질문을 하면, 웹과 학습된 데이터를 서로 정보를 결합하여 답변을 생성해준다

*참고로 퍼플렉서티는 NLP(자연어처리) 분야에서 각 언어 모델에 대한 성능을 평가하는 지표로 사용되는 용어이다.

 

 

모델의 구조를 살펴보면, 마치 MOE mixture of exports 가 적용된 것 처럼(..맞나? 뇌피셜에 가깝다.) OpenAI GPT-3.5 Turbo 모델 파인튜닝을 통해 개선된 성능을 기반으로 LlaMa Chat(메타), Bird SQL(트위터)의 인터페이스 그리고 마이크로소프트의 Bing 검색 엔진을 결합하여 만들어졌다. 그리고 OpenAI 코덱스 활용을 통해 자연어를 SQL로 변환하여 트위터와 같은 방대한 데이터베이스도 쉽게 검색할 수 있다고 한다.

 

perplexity 사용예

사용하면서 체감할 수 있는 주요 특징으로는 1)실시간으로 웹에서 서칭, 2)검색 결과를 파인 튜닝을 통해 축척한 내부 지식을 기반으로 해석한 후 요약, 3)해석에 대한 근거를 각 요소별로 참조(링크), 4) 질문에 대한 답변 생성에서 끝이 아니라 이후 이어질만한 추천 후속 질문들의 예를 제공해준다는 점이 기존의 검색 엔진과 생성형 언어모델과의 차이점이라 할 수 있다.

랭체인에서 제공하는 다양한 api들을 단순 연구용이 아닌 시제품용으로 매우 효과적으로 적용한 사례 중 하나인 것 같다.

 

 

 

 

---

https://www.perplexity.ai

Perplexity