레딧 브리핑 — 10월 19일(월)
1r/LocalLLaMA— 로컬 LLM/하드웨어10건
로컬 LLM 구동에 고가 빌드는 필요 없다
고가 멀티 GPU 빌드 없이도 소비자급 단일 GPU와 소량의 시스템 메모리만으로 대규모 컨텍스트 로컬 LLM 구동이 가능함을 보여준 사례다. 작성자는 9060 XT 16GB 단일 GPU와 24GB DDR5 홈랩 환경에서 Qwen 3.8 27b를 262k 컨텍스트로 구동해 초당 42.7토큰의 생성 속도를 기록했다. 댓글에서는 PS5나 bc-250 같은 저가 하드웨어를 활용한 사례가 이어지며 커
DeepSeek v4.1 Flash 1017, Dwarfstar(ds4)용 양자화 공개
개발자 returnity가 DeepSeek v4.1 Flash 1017을 Dwarfstar(ds4)에서 구동하기 위한 비전 타워 PR과 양자화 모델을 공개했다. 라우티드 익스퍼트 2비트, 나머지 8비트 이상, FP8 엔그램 테이블 조합으로 150GB 백본은 128GB 시스템에서 SSD 스트리밍이 가능하며 M5 Max에서 최대 20tps를 기록한다. 약 200GB 엔그램 테이블은 온디맨드 페이
Qwen3.8 27b에게 내 라우터 해킹을 지시했다
Claude와 Opus 4.8이 거부한 라우터 펌웨어 교체 요청을 검열 제거 모델이 아닌 일반 Qwen3.8 27b가 OpenWrt 공식 가이드 기반으로 수행한 사례로, AI 세이프가드의 과도한 검열 논란을 촉발했다. 댓글에서는 소유 기기 펌웨어 수정에 대한 가드의 불필요성과 '해킹'이라는 표현이 오히려 가드를 자극했다는 지적이 나왔다. 향후 Qwen 모델의 세이프가드 방향에 대한 의문도 함
AutoTrust의 HF 모델, 수천 개 조작 좋아요 덕에 트렌딩 등극한다
이 글은 Hugging Face 트렌딩에 오른 AutoTrust 모델의 좋아요가 수천 개의 가짜 계정으로 조작되었을 가능성을 제기한다. 작성자는 가짜 계정들의 공통 패턴과 Google, Meta 등 정상 모델과의 비교 분석 결과를 근거로 제시했다. 봇 계정 생성과 캡차 우회 비용을 고려하면 조작이 대규모로 이뤄졌을 것으로 보지만, AutoTrust 본인의 개입 여부는 확인되지 않았다.
Qwen 4 모델이 덜 생각할 확률은 얼마나 될까
게시자는 Qwen 4 시리즈의 크리스마스 전 출시가 예상되지만 정확한 날짜는 공개되지 않았다고 전한다. qwen flash next 3.8을 초당 약 28토큰으로 구동할 때 대부분의 토큰이 추론에 소모된다는 점을 지적하며, 지능을 유지한 채 추론량을 줄이는 것이 하드웨어나 추론 기술 개선보다 중요한 업그레이드라고 주장한다. 댓글에서는 출시일이 밝혀지지 않은 상황에 대한 조롱과 기다림의 반응이
Ling 3.1 Flash(560B MoE), llama.cpp RPC로 DGX Spark 4대에 로드된다
DGX Spark 4대에 llama.cpp RPC로 560B MoE 모델을 분산 구동한 사례다. 당시 vLLM용 공식 FP4 빌드가 없어 Atomic Chat의 Q4 GGUF와 RPC 분산이 대안으로 선택됐다. 성능 수치는 아직 공개되지 않았으며 124B Ling 3.0 Flash와의 답변 품질 및 대기 시간 비교가 향후 관심 포인트다. 댓글에서는 4대 구성의 부하 시 전력이 5090 한 장
모델 9개, 코딩 과제 5개, 16GB GPU 한 장
RX 9060 XT 16GB 한 장에서 클라우드 API 모델과 로컬 양자화 모델들의 코딩 능력을 5개 과제로 비교한 벤치마크 게시글이다. c1~c3는 코드를 작성하고 반복 개선하는 능력을, c4~c5는 DP와 NFA·비트셋 오토마톤 같은 알고리즘 선택을 가르는 지표로 작동했다. Qwen3.8-27B 계열 양자화 모델들이 4~5점을 기록한 반면 Nemotron, Mellum, LFM2.5는 파
모두가 자기 장비를 전기 히터라고 놀리니, Qwen에게 바이브코딩을 시켜봤다
로컬 LLM 커뮤니티에서 고성능 GPU 장비의 발열을 '전기 히터'라 부르는 농담을 실제로 구현한 프로젝트가 공개되었다. 작성자는 4장의 V620 GPU로 구성된 서버를 vLLM 백엔드와 연동해 추론 수요에 따라 난방을 제어하며, 토큰 인증이 적용된 로컬 웹페이지로 목표 온도를 조절한다. Qwen이 코드 작성을 맡은 이 시스템은 밈으로 시작했지만 실사용 가능한 기술 데모 수준으로 발전했으며,
DGX Spark 2대에서 구동한 DeepSeek V4.1 Flash 1017: TensorFold로 텍스트 57 tok/s, 코드 92 tok/s (vLLM 키트 대비 2.1~2.3배)
DGX Spark 2대를 CX7 케이블로 TP=2 연결해 DeepSeek-V4.1-Flash-1017(EXL3 2.9bpw, 1M 컨텍스트)을 구동한 벤치마크 게시물로, TensorFold 엔진이 동일 조건의 vLLM 키트 대비 디코드에서 2.1~2.3배, 프리필에서 2.2~2.4배 빠르다고 주장한다. 1M 토큰 프리필에서도 초당 1,246토큰을 기록했고, 프롬프트 캐시가 재시작 후에도 유지
Muse Spark, M3U 256GB에서 구동된다
M3U 256GB 시스템에서 816B 규모 MoE 모델 Muse Spark Open을 ds4 양자화로 구동해 첫 성공적인 실행에 도달한 사례를 다룬다. 디코드 속도는 초당 4토큰에 그쳤으나 작성자는 4~5배 개선을 기대하고 있다. 댓글에서는 양자화 수준(Q2, IQ0_XXS, IQ1_M)과 SSD 오프로딩 사용 여부를 두고 추측이 오갔다.
2r/singularity— AI 일반/모델6건
연구진이 가상 세계 전체를 생성하는 AI Odyssey-3에 시뮬레이션된 초파리 뇌를 연결했다. 이 초파리는 상상 속 환경을 완전히 스스로 탐색하고 있다. 소프트웨어로 재현된 생물학적 뇌가 한 번도 존재한 적 없는 세계를 탐험하고 있다.
시뮬레이션으로 재현한 초파리 뇌를 가상 세계 생성 AI Odyssey-3에 연결해, 초파리가 실제로 존재하지 않는 상상 속 환경을 스스로 탐색한다는 내용의 링크 포스트다. 댓글에서는 신경과학 전문가의 비판을 인용하며 시뮬레이션 뇌의 정확성에 의문을 제기했고, 시각 외에 후각이나 공기·중력 감각 같은 입력이 없어 실제 초파리의 경험과 다르다는 지적이 이어졌다. 일부는 이 사례를 다룬 별도 기사
Terrence Tao의 발언
Terrence Tao의 발언을 다룬 링크 포스트로, 본문 대신 댓글에서 수학의 신기법이 과연 기존 아이디어와 무관하게 탄생할 수 있는지가 논의된다. 댓글들은 Galois 이론과 Sigma 대수, 확률론의 발전 과정을 사례로 들며 자연스러운 발전 여부를 두고 의견을 나눴다. Lagrange의 선행 연구처럼 기존 아이디어에 기반한 사례를 지적하는가 하면, AI가 진정한 의미의 신기법을 만들어낼
Linux 창시자 Linus Torvalds, 반AI 규칙은 '터무니없다'고 발언한다 (정말 훌륭한 발언)
Linux 창시자 Linus Torvalds가 반AI 규칙을 '터무니없다'고 평한 발언이 커뮤니티에 링크 형태로 공유되었다. 본문에는 제출자 정보만 있어 실제 내용은 없으며, 댓글에서는 Upton Sinclair의 명언을 인용하며 발언에 공감하는 흐름이 나타난다. 일부 댓글은 반AI 진영을 루다이트에 비유해 비판하는 등 Torvalds의 발언에 지지적인 반응이 주를 이룬다.
수학은 시작에 불과하다…5년 안에 모든 과학 연구의 모습이 달라진다
최고 성능 AI 모델이 수학의 어려운 문제에서 인간을 능가하면서 학계의 정체성 위기가 논의되고 있다는 내용이다. 작성자는 이론·계산 연구 분야의 물리학, 화학, 공학이 다음 변화 대상이 될 것으로 전망하며, 5년 안에 전 세계 학계의 모습이 크게 달라질 것으로 본다. 다만 실험 연구는 로봇의 숙련도와 비용 문제로 진전이 더디다는 점을 한계로 지적한다. 댓글에서는 AI 변화 속도에 대한 놀라움
AI가 대학 학위가 필요한 일자리를 대체한다면, 고등교육은 사라질 것인가?
AI가 학위 요구 일자리를 대체할 경우 고등교육의 존립을 묻는 토론성 게시물이다. 작성자는 교수가 소득 증대 가능성이 없어도 대학에 다닐지 묻자 아무도 손을 들지 않았던 일화를 소개한다. 댓글에서는 평생 학습의 가치와 함께 고등교육이 부유층의 특권으로 변해 계층 격차가 심화될 것이라는 우려가 제시되었다.
특이점에 대해 오프라인에서 사람들과 이야기하는가?
게시물은 인공지능이 향후 12~36개월 사이 세상을 빠르게 변화시킬 것이라며 일반 대중이 그 속도를 인지하지 못한다고 지적하고, 오프라인에서 이 주제를 꺼내 이야기하는지 묻는다. 댓글에서는 특이점을 외치며 다니는 자신을 소재로 삼은 유머부터 이 주제를 나눌 주변인이 없다는 고독감까지 다양한 반응이 이어진다. 특이점 논의가 온라인 커뮤니티 중심으로 이뤄지고 있음을 보여주는 사례다.
3r/ollama— Ollama 생태계5건
OpenCode Go에서 Ollama Pro로 갈아탈까? 실제 서비스 품질은 어떤가?
OpenCode Go에서 Ollama Pro로의 전환을 고민하는 사용자가 속도, 안정성, 모델 품질, 크레딧 소진 속도에 대한 최근 사용 후기를 요청했다. 댓글에서는 GLM 5.3 중심 사용을 권하며 Kimi의 높은 비용을 지적하는 의견과, Ollama의 제한이 더 심하고 10배쯤 느리다는 OpenCode Go 우위 평가가 함께 나왔다. Zed 에디터의 내장 Ollama 지원을 활용한 모델
내 5070 Ti/3070 키메라 빌드
RTX 5070 Ti와 RTX 3070 두 가지 GPU를 결합한 '키메라' 빌드를 소개하는 링크 게시물이다. 제목의 키메라라는 명칭은 서로 다른 두 GPU를 한 시스템에 조합한 하이브리드 구성을 암시한다. 본문에는 제출자 정보 외에 추가 설명이 없고 댓글도 달리지 않아, 빌드의 세부 사양과 사진은 원본 링크를 통해 확인해야 한다.
GLM 모델을 무료로 사용할 수 있는 도구! (가끔은 DeepSeek도)
GLM 모델을 무료로 이용할 수 있게 해주는 도구를 소개하는 링크 포스트다. 작성자는 때때로 DeepSeek 모델도 함께 사용할 수 있다고 언급했다. 해당 게시물에는 아직 댓글이 달리지 않은 상태다.
코딩 에이전트를 로컬 모델과 함께 실행하는 터미널을 개발 중이며, Ollama 사용자의 피드백을 요청한다
Ghostty 포크에서 출발한 macOS용 터미널 Tellurion은 Ollama, LM Studio, llama.cpp, MLX 등의 로컬 모델을 사이드바에서 끌어와 Claude Code, Codex 같은 코딩 에이전트 옆에서 함께 실행할 수 있게 하는 도구다. 에이전트별 상태 표시, Tailscale을 통한 휴대폰 권한 승인, 실행 중인 앱의 요소를 클릭해 수정을 지시하는 Visual F
Ollama로 구동되는 macOS 로컬 AI 어시스턴트 'Jarvis' 공개 — 음성, 화면 읽기, Mac 제어, 출처 기반 웹 리서치, 에이전트 팀 탑재
Ollama 기반 로컬 모델로 구동되는 macOS용 AI 어시스턴트 Jarvis가 GitHub에 공개됐다. 음성, 화면 인식, Mac 제어, 출처 기반 웹 리서치, 에이전트 팀 기능을 갖추었으며, 14B 모델의 도구 호출 신뢰성을 높이기 위해 캐시된 프롬프트, 간단 명령 우회, 정직성 가드, 평가 스위트를 적용했다. Apple Silicon 16GB 이상을 요구하고 웹 리서치, 날씨, App
4r/StableDiffusion— 이미지 생성 AI10건
Moss가 새로운 SDXL이다
게시자는 Moss를 가볍고 검열이 없으며 학습이 쉬운 기반 모델로 평가하고, Flux, Qwen, Zimage, Krea와 달리 파인튜닝 생태계가 활발해질 것으로 기대한다. 댓글에서는 SDXL이 초기부터 검열되었는지를 두고 의견이 갈렸으며, 의도적 검열과 NSFW 학습 데이터 부재를 구분해야 한다는 지적이 나왔다. 또한 SDXL을 만든 팀이 BFL을 시작했다는 언급도 있었다.
어.. 레딧은 왜 Moss AMA를 중단하고 moss_official을 차단했을까?
레딧의 자동화된 차단 도메인 필터가 Moss AMA 게시물을 걸러낸 사례로, t.co 단축 링크가 원인으로 추정된다. 비슷한 일이 며칠 전 캐나다 정치인에게도 발생해 단축 링크 사용이 계정 삭제의 원인일 가능성이 모더레이터들 사이에서 거론되었다. 또한 arctic shift 관련 링크를 단 댓글도 삭제된다는 지적이 나오면서 자동화 시스템의 오작동 여부에 대한 의문이 제기되고 있다.
MOSS-Image, LoRA 적용 생성 결과물 공개
MOSS-Image는 Apache 라이선스를 따르는 오픈 소스 이미지 생성 모델로, 현재는 t2i만 지원하지만 개발진이 추후 I2I 확장 가능성을 배제하지 않았다. 사용자들이 기존 인기 LoRA를 Moss-Image로 포팅해 Hugging Face와 Civitai에 공개했다. 커뮤니티에서는 Krea, Kroma, Stable Diffusion 등 기존 모델들이 진정한 오픈 소스가 아니라는 점
Moss는 검열되지 않았다!
본문은 생성 모델 Moss가 검열 없이 작동한다며 검열된 Flux 3과 대비한다. 상위 댓글들은 Moss가 LoRA 없이도 다른 모델이 알지 못하는 특이한 개념까지 파악한다는 점에 주목하며, 그 예시로 리버스 버니수트가 언급되었다. 전반적으로 검열 부재에 대한 환영과 유머가 섞인 반응이 이어졌다.
ComfyUI 처음 사용해 MOSS 이미지 모델 시험한다
로컬 AI 초보자가 ChatGPT로 생성한 워크플로와 프롬프트를 활용해 ComfyUI에서 MOSS 이미지 모델을 시험한 사례다. RTX 5080 16GB VRAM 환경에서 2560×1440 해상도 생성이 가능했으며, 애니메이션 캐릭터와 실사 배경 합성 결과에 만족감을 표했다. 다만 배경 텍스트 왜곡 등 품질 문제가 지적되었고, 일부 커뮤니티 반응에서는 신규 모델 홍보에 대한 의혹도 제기되었다
Moss 이미지는 재미있다
Moss 이미지 생성이 재미있다는 반응과 함께 워크플로우가 이미지에 내장된 형태로 공유되었다. Reddit은 업로드 과정에서 메타데이터의 워크플로우를 제거하기 때문에 작성자가 외부 링크로 워크플로우를 추가 공개한 상황이다. 댓글에서는 예시 이미지가 셀카나 연예인 사진 위주가 아니어서 다행스럽다는 긍정적 평가가 나왔다.
좋은 것은 MOSS-Image만이 아니다
MOSS 시리즈는 MOSS-Image 외에도 음성 전사 모델 MOSS-Transcribe-Diarize와 음성 합성 모델 MOSS-TTS에서 좋은 평가를 얻고 있다. MOSS-Transcribe-Diarize는 VibeVoice-Large의 약 10% 크기임에도 대등하거나 더 나은 성능을 보이며 반복 출력 문제도 적었다. 다만 일부 사용자는 Canary와 Parakeet 같은 경량 ASR 모
MOSS 이미지는 5GB 버전과 9GB 버전 중 어느 것을 받아야 할까
MOSS 이미지 모델의 5GB와 9GB 버전 중 무엇을 받을지 묻는 링크 게시물이며, 댓글에서는 양자화 형식 간의 속도와 품질 트레이드오프가 논의된다. Nvidia GPU와 RDNA4에서는 int8이 bf16보다 훨씬 빠르지만 RDNA3에서는 오히려 느리다는 지적이 나왔다. Q8은 품질이 bf16에 필적하지만 오버헤드가 있고 ComfyUI의 동적 VRAM 관리에서 GGUF를 실행하지 못해 모
MOSS SFT 모델, Girl on Grass·Grass on Girl·어두운 사진 생성 가능
MOSS SFT 모델이 ComfyUI의 Bounding Box 워크플로우를 활용하면 어두운 이미지도 생성할 수 있다는 사례가 공유됐다. 댓글에서는 모델이 검열되지 않은 점이 전반적인 품질 향상에 기여한다는 평가가 제기됐다. 일부는 옷을 입은 인간 데이터만으로 학습하면 인체 구조를 제대로 파악하지 못해 왜곡된 결과물이 나온다는 논리로 이 주장을 뒷받침했다.
지금까지 가장 성공적인 MiniMax H3 레퍼런스-투-비디오 프롬프트 구조 (이미지 3장 + 영상 1개 예시)
이 게시물은 오픈 웨이트 영상 생성 모델 MiniMax H3의 Ref2V 워크플로에서 학습 스키마에 정확히 맞춘 프롬프트 구조가 결과 품질을 좌우한다는 점을 다룬다. 글쓴이는 여섯 섹션 스키마와 각도 괄호 태그, fully_preserved 등 트리거 키워드의 역할과 함께, summary 섹션의 특정 영어 문구가 프레임 단위 편집 모드를 여는 하드코딩 트리거라는 점과 detailed_desc
5r/hardware— GPU/PC 하드웨어4건
브라질 공항에서 47만 달러어치 ZOTAC RTX 5090 그래픽카드 두 팔레트가 사라진다
브라질의 한 공항에서 가치 47만 달러에 달하는 ZOTAC RTX 5090 그래픽카드 두 팔레트가 사라진 사건이 전해졌다. 해당 게시물은 링크 형식으로 본문 내용은 없으며, 댓글에서는 도난 가능성과 말레이시아·중국으로의 유출을 암시하는 추측이 오갔다. 사건의 구체적인 경위나 수사 진행 상황은 원문에서 확인할 수 없다.
한국 칩 엔지니어, Tesla가 Samsung에 AI5/AI6 가격 압박하고 Terafab 인재 영입했다고 고발한다
링크 포스트 형식으로, 한국 칩 엔지니어가 Tesla가 Samsung에 AI5/AI6 가격을 압박하고 Terafab용 인재를 영입했다고 주장한 글이 공유되었다. 댓글에서는 Tesla의 가격 협상과 인재 영입이 자유시장의 정상적인 관행이라는 옹호와, Samsung의 가격 책정이 지나치다는 지적이 오갔다. 일부는 이 논쟁이 메모리가 아닌 로직 팹에 관한 것임을 강조했고, 메모리 수요 증가가 전체
Micron, Taiwan 첨단 패키징 공장 개관... 2027년 HBM 물량 완판
Micron이 Taiwan에 첨단 패키징 공장을 개관하고 2027년 HBM 물량이 완판되었다는 두 가지 소식이 제목에 담겨 있다. 본문은 링크 포스트 형태로 세부 내용은 제공되지 않는다. 첨단 패키징 공장 개관과 HBM 물량 완판은 메모리 공급 상황과 관련된 주요 이슈로 볼 수 있다.
[SomeTechGuy] Seagate IronWolf NAS 드라이브(4/6/8/10/12TB) 테스트 및 비교
SomeTechGuy가 Seagate IronWolf NAS 드라이브 4~12TB 모델을 테스트하고 비교한 영상이 링크 포스트 형태로 공유됐다. 댓글에서는 NAS 드라이브 가격 급등이 주요 화두로, 일부 모델이 2년 전 대비 최대 5까지 오르다는 지적이 나온다. 아울러 마우스나 이어버드 위주 리뷰 대신 이런 저장장치 콘텐츠의 확대를 바라는 반응과 iPhone 리뷰 증가를 원하는 의견이 함께