블로그로 돌아가기

문서 작업에서 로컬 LLM과 클라우드 AI는 어떻게 다를까요

문서 작업에서 로컬 LLM과 클라우드 AI는 어떻게 다를까요

Acrylic

로컬 LLM과 클라우드 AI의 실행 위치와 자원 사용을 비교하고, Acrylic에서 데스크톱 문서 편집과 클라우드 AI를 함께 활용하는 방식을 설명합니다.

문서 파일을 내 컴퓨터에 저장해 두고, AI 요청은 외부 서비스에서 처리할 수 있습니다. 파일의 저장 위치와 AI 모델의 실행 위치를 구분해 볼 필요가 있습니다.

보고서나 스프레드시트, 발표 자료에 AI를 활용할 때 이 차이를 알면 로컬 LLM과 클라우드 AI를 이해하기 쉽습니다.

AI 모델은 어디서 실행되나요

LLM은 대규모 언어 모델을 뜻하며, 사용자의 요청을 처리해 답변을 생성합니다. 로컬 LLM은 이 처리를 사용자 기기에서 수행하고, 클라우드 모델은 외부 서비스에서 수행합니다.

비교할 내용클라우드 모델로컬 모델
요청을 처리하는 곳외부 서비스사용자 기기
모델 실행에 쓰는 자원서비스가 제공하는 실행 자원사용자 기기의 메모리와 연산 자원
추론에 필요한 연결서비스에 접속할 네트워크 필요구성을 마친 뒤 기기 안에서 추론 가능

로컬에서 추론하더라도 모델 다운로드나 외부 서비스와 연결된 도구에는 인터넷 접속이 필요할 수 있습니다.

문서 내용은 어디서 처리되나요

보고서를 고칠 때 AI 모델은 사용자의 요청과 작업 중 읽은 문서 내용을 바탕으로 답변을 생성합니다. 모델이 실행되는 위치에 따라 그 내용이 처리되는 곳도 달라집니다.

업무 문서라면 파일을 어디에 저장하는지와 함께 AI 요청이 어디로 전달되는지도 확인해 보세요. 문서 내용이 어떤 방식으로 처리되는지 이해하는 데 도움이 됩니다.

Acrylic에서는 편집기와 AI를 어떻게 함께 사용하나요

Acrylic의 문서 편집기는 데스크톱 앱에서 실행되고, 현재 AI 기능은 클라우드 모델을 사용합니다. DOCX·XLSX·PPTX 파일을 편집하면서 에이전트에게 수정을 요청할 수 있습니다.

예를 들어 다음처럼 요청할 수 있습니다.

이 보고서에 있는 수치를 사용해 요약을 짧게 다듬어 줘. 날짜와 단위는 유지해 줘.

편집기에서 바뀐 요약을 읽고 필요한 부분을 직접 고친 뒤 저장합니다.

자세한 작업 흐름은 Acrylic 편집기 소개에서 볼 수 있습니다. 제품과 다운로드 정보는 Acrylic 웹사이트에서 확인하세요.

문서 작업에서 로컬 LLM과 클라우드 AI는 어떻게 다를까요