문서 작업에서 로컬 LLM과 클라우드 AI는 어떻게 다를까요

Acrylic
로컬 LLM과 클라우드 AI의 실행 위치와 자원 사용을 비교하고, Acrylic에서 데스크톱 문서 편집과 클라우드 AI를 함께 활용하는 방식을 설명합니다.
문서 파일을 내 컴퓨터에 저장해 두고, AI 요청은 외부 서비스에서 처리할 수 있습니다. 파일의 저장 위치와 AI 모델의 실행 위치를 구분해 볼 필요가 있습니다.
보고서나 스프레드시트, 발표 자료에 AI를 활용할 때 이 차이를 알면 로컬 LLM과 클라우드 AI를 이해하기 쉽습니다.
AI 모델은 어디서 실행되나요
LLM은 대규모 언어 모델을 뜻하며, 사용자의 요청을 처리해 답변을 생성합니다. 로컬 LLM은 이 처리를 사용자 기기에서 수행하고, 클라우드 모델은 외부 서비스에서 수행합니다.
| 비교할 내용 | 클라우드 모델 | 로컬 모델 |
|---|---|---|
| 요청을 처리하는 곳 | 외부 서비스 | 사용자 기기 |
| 모델 실행에 쓰는 자원 | 서비스가 제공하는 실행 자원 | 사용자 기기의 메모리와 연산 자원 |
| 추론에 필요한 연결 | 서비스에 접속할 네트워크 필요 | 구성을 마친 뒤 기기 안에서 추론 가능 |
로컬에서 추론하더라도 모델 다운로드나 외부 서비스와 연결된 도구에는 인터넷 접속이 필요할 수 있습니다.
문서 내용은 어디서 처리되나요
보고서를 고칠 때 AI 모델은 사용자의 요청과 작업 중 읽은 문서 내용을 바탕으로 답변을 생성합니다. 모델이 실행되는 위치에 따라 그 내용이 처리되는 곳도 달라집니다.
업무 문서라면 파일을 어디에 저장하는지와 함께 AI 요청이 어디로 전달되는지도 확인해 보세요. 문서 내용이 어떤 방식으로 처리되는지 이해하는 데 도움이 됩니다.
Acrylic에서는 편집기와 AI를 어떻게 함께 사용하나요
Acrylic의 문서 편집기는 데스크톱 앱에서 실행되고, 현재 AI 기능은 클라우드 모델을 사용합니다. DOCX·XLSX·PPTX 파일을 편집하면서 에이전트에게 수정을 요청할 수 있습니다.
예를 들어 다음처럼 요청할 수 있습니다.
이 보고서에 있는 수치를 사용해 요약을 짧게 다듬어 줘. 날짜와 단위는 유지해 줘.
편집기에서 바뀐 요약을 읽고 필요한 부분을 직접 고친 뒤 저장합니다.
자세한 작업 흐름은 Acrylic 편집기 소개에서 볼 수 있습니다. 제품과 다운로드 정보는 Acrylic 웹사이트에서 확인하세요.