구글 번역 없이, 내 서버에서 번역한다 (LibreTranslate)

 

GitHub - LibreTranslate/LibreTranslate: Free and Open Source Machine Translation API. Self-hosted, offline capable and easy to s

우리는 번역이 필요할 때 자연스럽게 구글 번역이나 파파고, DeepL을 떠올린다.

문장을 입력하면 몇 초 안에 번역 결과가 나온다.

너무 자연스러운 경험이라 그 뒤에서 어떤 일이 벌어지는지는 크게 신경 쓰지 않는다.

하지만 한 가지 질문을 해볼 수 있다.

“번역 서버를 내가 직접 운영할 수는 없을까?”

외부 API에 문장을 보내지 않고,
내 컴퓨터나 서버 안에서 번역을 처리하는 것이다.

이 질문에 꽤 재미있는 답을 주는 오픈소스 프로젝트가 있다.

LibreTranslate다.

프로젝트
https://github.com/LibreTranslate/LibreTranslate

---

LibreTranslate는 무엇인가

LibreTranslate는 오픈소스 기반의 셀프 호스팅 번역 API 서버다.

쉽게 말하면 구글 번역이나 DeepL처럼

문장을 보내면 번역 결과를 돌려주는 서버

를 직접 만들 수 있게 해주는 프로젝트다.

예를 들어 내가 서버 한 대를 가지고 있다면 이런 구조를 만들 수 있다.

웹사이트
   ↓
모바일 앱
   ↓
내 번역 API
   ↓
LibreTranslate
   ↓
번역 모델

외부 번역 서비스를 호출하지 않아도 된다.

내 서버가 직접 번역한다.

---

그런데 LibreTranslate가 직접 번역하는 것은 아니다

LibreTranslate의 구조를 살펴보면 재미있는 부분이 하나 있다.

LibreTranslate 자체가 거대한 AI 번역 모델은 아니다.

실제 번역을 담당하는 핵심 엔진은

Argos Translate

라는 또 다른 오픈소스 프로젝트다.

전체 구조를 아주 단순하게 표현하면 다음과 같다.

사용자

 ↓

LibreTranslate
웹 UI / REST API

 ↓

Argos Translate
번역 엔진

 ↓

CTranslate2
AI 모델 추론

 ↓

번역 결과

LibreTranslate는 일종의 번역 서버 인터페이스 역할을 한다.

사용자의 요청을 받고 번역 모델을 실행한 뒤 결과를 돌려준다.

---

GPT에게 번역을 시키는 것과는 다르다

최근에는 ChatGPT나 Gemini, Claude 같은 LLM도 번역을 아주 잘한다.

하지만 LibreTranslate는 조금 다른 방식이다.

GPT 같은 범용 LLM이 아니라

번역을 목적으로 학습된 NMT(Neural Machine Translation) 모델

을 사용한다.

예를 들어 사용자가

나는 학교에 갑니다.

라고 입력하면 내부에서는 대략 이런 과정이 진행된다.

나는 학교에 갑니다.

↓

문장 분석

↓

토큰 분리

↓

번역 신경망

↓

I go to school.

LLM에게

“이 문장을 영어로 번역해줘.”

라고 프롬프트를 보내는 것이 아니다.

번역 모델 자체가 직접 문장을 변환한다.

---

언어별 번역 모델을 설치한다

LibreTranslate의 또 하나 재미있는 점은 언어별 번역 모델을 설치해서 사용한다는 것이다.

예를 들어

영어 → 한국어

한국어 → 영어

영어 → 일본어

영어 → 프랑스어

와 같은 번역 모델을 서버에 설치한다.

Argos Translate에서는 이런 모델을 .argosmodel 형태로 관리한다.

즉 번역 모델 자체를 내 서버 안에 가지고 있는 것이다.

그래서 인터넷 연결 없이도 번역할 수 있다.

---

번역은 어떻게 이루어질까

실제 내부 과정은 조금 더 복잡하다.

대략 다음과 같은 단계로 진행된다.

1. 문장을 나눈다

긴 문장이 들어오면 먼저 문장 단위로 분리한다.

예를 들어

안녕하세요.
저는 서울에 살고 있습니다.
오늘 날씨가 좋네요.

라면

문장 1
안녕하세요.

문장 2
저는 서울에 살고 있습니다.

문장 3
오늘 날씨가 좋네요.

처럼 나눈다.

---

2. 문장을 작은 단위로 쪼갠다

AI 모델은 사람이 보는 문장을 그대로 이해하지 않는다.

문장을 토큰이라는 작은 단위로 바꾼다.

예를 들어

나는 학교에 갑니다

라는 문장이 있다면 내부적으로는

나는
학교
에
갑니다

또는 이보다 더 작은 subword 단위로 분해될 수 있다.

이 과정에는 SentencePiece나 BPE 같은 기술이 사용된다.

---

3. 번역 모델이 새로운 문장을 생성한다

이제 번역 신경망이 입력된 토큰을 분석해 대상 언어의 문장을 만든다.

나는 학교에 갑니다

↓

Neural Translation Model

↓

I go to school.

실제 추론에는 CTranslate2 같은 고성능 번역 추론 엔진이 사용된다.

---

직접 연결된 번역 모델이 없어도 된다

Argos Translate에는 재미있는 기능이 하나 더 있다.

중간 언어를 이용한 번역이다.

예를 들어 서버에 다음 두 모델만 있다고 해보자.

한국어 → 영어

영어 → 프랑스어

그런데 사용자가

한국어 → 프랑스어

번역을 요청한다.

직접 연결된 번역 모델이 없어도 다음처럼 처리할 수 있다.

한국어

↓

영어

↓

프랑스어

영어를 중간 언어로 사용하는 것이다.

이를 흔히 Pivot Translation이라고 한다.

물론 번역 단계를 여러 번 거치기 때문에 직접 번역보다 품질이 떨어질 가능성은 있다.

그래도 적은 수의 번역 모델로 다양한 언어 조합을 만들 수 있다는 점은 흥미롭다.

---

API로 사용하면 더 재미있다

LibreTranslate의 진짜 장점은 번역 사이트를 만드는 데만 있지 않다.

API 서버로 사용할 수 있다는 점이 훨씬 중요하다.

예를 들어 앱에서 다음과 같은 요청을 보낼 수 있다.

{
  "q": "Hello!",
  "source": "en",
  "target": "ko"
}

그러면 서버가 결과를 돌려준다.

안녕하세요!

이 구조를 이용하면 다양한 서비스에 번역 기능을 붙일 수 있다.

---

활용할 수 있는 프로젝트

예를 들어 이런 서비스를 만들 수 있다.

1. 사내 문서 번역 시스템

회사 문서를 외부 번역 API로 보내기 어려운 경우가 있다.

보안이 중요한 기업이라면 번역 서버를 내부망에 구축할 수 있다.

회사 문서

↓

사내 LibreTranslate 서버

↓

번역

↓

외부 데이터 전송 없음

---

2. 채팅 자동 번역

글로벌 커뮤니티나 메신저를 만든다면 실시간 번역 기능을 붙일 수 있다.

한국 사용자

"안녕하세요"

↓

번역 서버

↓

"Hello"

↓

해외 사용자

---

3. 게임 번역

게임 개발에서도 사용할 수 있다.

NPC 대사나 사용자 채팅을 실시간으로 번역하는 것이다.

한국어

↓

LibreTranslate

↓

영어 / 일본어 / 중국어

멀티플레이 게임의 채팅 번역 기능에도 활용할 수 있다.

---

4. AI 에이전트 번역 도구

최근 AI 에이전트 시스템에도 흥미롭게 활용할 수 있다.

예를 들어

AI Agent

↓

번역 Tool 호출

↓

LibreTranslate

↓

다국어 결과

처럼 별도의 번역 Tool로 만들어두면 된다.

LLM이 모든 번역 작업을 처리할 필요가 없어지는 것이다.

---

가장 큰 장점은 '내 서버'라는 것

LibreTranslate의 가장 큰 장점은 번역 품질 하나만으로 설명하기 어렵다.

이 프로젝트의 핵심은

Self-hosted

라는 개념에 있다.

번역 데이터를 외부 회사 서버로 보내지 않아도 된다.

내 PC

내 서버

NAS

클라우드 VM

Mac Studio

어디든 설치할 수 있다.

그리고 그 서버를

http://my-server/translate

같은 나만의 번역 API로 사용할 수 있다.

---

물론 단점도 있다

LibreTranslate가 모든 번역 서비스를 대체하는 것은 아니다.

가장 큰 차이는 번역 품질이다.

최근의

• DeepL
• Google Translate
• ChatGPT
• Gemini
• Claude

같은 서비스는 매우 큰 모델과 방대한 데이터를 사용한다.

특히 문맥이 긴 글이나 자연스러운 표현에서는 최신 LLM 기반 번역이 더 좋은 결과를 보여주는 경우가 많다.

LibreTranslate가 경쟁력이 있는 영역은 조금 다르다.

최고 번역 품질
        ↑
DeepL / LLM

----------------

프라이버시
로컬 실행
오픈소스
비용 통제
자체 API
        ↑
LibreTranslate

즉 목적이 다르다.

---

로컬 AI 시대에는 다시 재미있어지는 프로젝트

몇 년 전까지만 해도 AI 기능을 사용한다는 것은 대부분

API를 호출한다

는 의미였다.

하지만 최근 흐름은 조금 달라지고 있다.

LLM도 로컬에서 돌리고,

음성 인식도 로컬에서 돌리고,

이미지 생성도 로컬에서 돌린다.

그리고 번역도 마찬가지다.

LLM
Whisper
Image Generation
Translation
Embedding
RAG

이런 기능들을 모두 자신의 서버 안에서 운영할 수 있다.

LibreTranslate는 이 가운데 Translation Layer를 담당할 수 있다.

---

개인 AI 서버를 만든다면

예를 들어 Mac Studio나 GPU 서버 한 대를 운영한다고 해보자.

이 서버를 다음과 같이 구성할 수 있다.

             Personal AI Server

 ┌────────────────────────────┐
 │                            │
 │  LLM       Ollama/vLLM     │
 │                            │
 │  STT       Whisper         │
 │                            │
 │  Image     Stable Diffusion│
 │                            │
 │  Search    RAG             │
 │                            │
 │  Translate LibreTranslate  │
 │                            │
 └────────────────────────────┘

그러면 외부 AI API에 의존하지 않는 작은 AI 인프라를 만들 수 있다.

이 관점에서 보면 LibreTranslate는 단순한 번역 프로젝트가 아니다.

개인 AI 서버를 구성하는 하나의 부품에 가깝다.

---

오픈소스의 재미는 이런 데 있다

LibreTranslate를 살펴보다 보면 흥미로운 점이 있다.

겉으로 보면 그냥 번역 웹사이트처럼 보인다.

하지만 안으로 들어가 보면

LibreTranslate
        ↓
Argos Translate
        ↓
CTranslate2
        ↓
NMT Model
        ↓
SentencePiece

여러 오픈소스 기술이 연결돼 하나의 서비스가 만들어진다.

우리가 매일 사용하는

“번역”

이라는 기능 하나도 실제로는 이런 작은 기술들이 층층이 쌓여 만들어지는 것이다.

그리고 그 기술들을 직접 실행할 수 있다.

그것이 오픈소스의 가장 재미있는 부분일지도 모른다.

---

한 줄 정리

LibreTranslate는 단순히

“무료 번역 프로그램”

이라기보다,

내 서버 안에 직접 구축할 수 있는 오픈소스 번역 API

라고 보는 것이 더 정확하다.

그리고 로컬 AI 서버를 만들고 있다면 한 번쯤 살펴볼 만한 프로젝트다.

AI가 점점 클라우드에서 로컬로 내려오고 있는 지금,

번역 역시 우리가 직접 운영할 수 있는 AI 기능 중 하나가 되고 있다.