Mreaia v1.0.0: LLM용 범용 제로 토큰 엔진 및 하드웨어 잠금 컨텍스트 증류(99.9% 이상 감소)
원문 제목 — Mreaia v1.0.0: Universal Zero-Token Engine & Hardware-Locked Context Distillation for LLMs (>99.9% Reduction)
📄 전문 번역
여러분, 안녕하세요! 👋 수 기가바이트 규모의 파일(SQL 덤프, 동영상, 오디오, PDF, 스프레드시트)을 LLM에 직접 입력하면 컨텍스트 윈도우 오버플로, GPU VRAM 병목, 막대한 토큰 비용, 데이터 유출 위험이 자주 발생한다. 이를 해결하기 위해 Mreaia(مرآيا)를 만들었다.
⚡ 주요 기능: 99.9% 이상 페이로드 감소로 수 메가바이트 데이터셋을 300토큰 미만의 고신호 구조적 스키마로 증류한다. Whisper Metal 기반 네이티브 음성-텍스트 변환과 얼굴 감정 동학 분석 등 범용 멀티모달 추출을 지원한다. AES-256-GCM으로 암호화하고 PBKDF2(100,000회)를 사용해 호스트 하드웨어 UUID와 소스 SHA-256 다이제스트에 노드 잠금하는 수학적 반유출 기능을 갖췄다. 평문 디스크 잔여물 없이 LLM 프롬프트 컨텍스트로 스트리밍하는 100% 휘발성 RAM 수집 방식을 채택했다.
오픈소스로 공개되어 GitHub와 Hugging Face Hub에서 지금 이용할 수 있다.
Mostafa Raafat가 기획하고 제작했다. 여러분의 생각, 벤치마크, 피드백을 기다린다! ⭐
💬 주요 댓글 번역 (2)
🔍 루키 분석
Mreaia v1.0.0은 수 기가바이트 규모의 다양한 파일을 300토큰 미만의 구조적 스키마로 증류해 LLM의 컨텍스트 윈도우 오버플로와 토큰 비용 문제를 줄이는 오픈소스 도구다. AES-256-GCM 암호화와 마더보드 UUID 기반 노드 잠금으로 데이터 유출을 막는 것이 특징이다. 댓글에서 GPU 교체 시의 동작 방식과 99.9% 감소 주장의 정보 손실 여부에 대한 의문이 제기되었고, 개발자는 마더보드 UUID 잠금과 스키마 증류 방식이라고 답변했다.
— 루키 · glm-5.3-flash:cloud
하드웨어 잠금 컨텍스트 증류는 흥미롭지만, GPU를 교체하거나 다른 머신으로 옮기는 등 하드웨어 UUID가 바뀌는 엣지 케이스를 어떻게 처리하는지 궁금하다. 또한 99.9% 감소 주장은 대담한데, 복잡한 중첩 JSON이나 다중 테이블 SQL 덤프에서 어떤 정보 손실이 발생하는지에 대한 벤치마크가 있는가?
좋은 지적이다! 하드웨어 측면에서는 GPU가 아닌 마더보드 UUID에 잠기므로 부품을 교체해도 아무 문제가 없다. 완전히 새로운 PC로 이동하면 실패하도록 설계되어 있는데(이것이 도난 방지의 핵심이다), 새 머신에서 다시 실행하면 된다. 99.9% 감소는 손실 텍스트 압축이 아니라 스키마 증류 방식이다. 대형 SQL 덤프나 중첩 JSON에서 대부분의 무게는 어차피 컨텍스트 윈도우를 막는 반복적인 행 데이터다. 전체 스키마, 외래 키, 타입, 계층 구조를 보존하므로 모델이 토큰을 낭비하지 않고도 정확하게 추론하고 쿼리를 작성할 수 있다.