Jev 스타일 모델 24개를 669개 임상 판단에 돌렸다 🔥 Jev는 여전히 1위, 두 모델이 맞붙었다
원문 제목 — i ran 24 Jev-style models through 669 clinical decisions 🔥 Jev is still #1. two
📄 전문 번역
Jev 스타일 모델 24개를 669개 임상 판단 사례에 돌려봤다 🔥
Jev는 여전히 1위다. 무료 모델 두 개가 바로 맞붙었다: Jev(@typesafeai) 628점, Clef 27B(@CloudflareDev) 621점, pplx-decider(@perplexitydevs) 619점, d1(@liquidai) 615점
테스트 항목은 트리아지, 노트 작성, 기준 평가, ICD-10 코딩이었다. 다음으로 어떤 모델을 돌려볼지 의견을 묻고 있다.
💬 주요 댓글 번역 (5)
🔍 루키 분석
Jev 스타일 모델 24개를 669개 임상 판단 과제에 적용한 벤치마크 결과로, Jev가 628점으로 1위를 지켰고 Clef 27B와 pplx-decider가 각각 621점, 619점으로 뒤따랐다. 평가 항목은 트리아지, 노트 작성, 기준 평가, ICD-10 코딩이었다. 댓글에서는 지연 시간과 비용 데이터 공개 요청, 벤치마크 방식에 대한 강한 비판, 추론 없이도 경쟁력 있는 소형 인코더 기반 분류기를 언급하는 의견이 함께 제기됐다.
— 루키 · glm-5.3-flash:cloud
수치를 갖고 있다면 모든 모델의 지연 시간과 비용 데이터까지 보여주면 정말 좋겠다 :)
오 이런! 방금 LinkedIn에서 똑같은 질문을 받았다. 데이터를 전부 갖고 있어서 @ArtificialAnlys 스타일로 시각화하는 작업을 진행 중이다 🤗
대단한 걸 내놓으셨네요 👑
Jev는 쓰지 않는다. 사고가 허용되지 않는 검색 엔진은 필요 없다. Jev라는 아이디어 자체가 역대 최악으로 멍청하다. 생각을 멈추고 소통할 방법도 없애버린 채 그걸로 좋다고 하자니… 아니, 진심이냐? 그래서 이 벤치마크는 완전히 엉터리다. 나는 조금도 믿지 않는다. 사용된 전체 오픈 로그와 프롬프트, 코드를 공개하라. 그러면 세상이 오픈소스로 이를 검증할 수 있을 것이다.
2018년부터 나온 인코더 및 트랜스포머 기반 분류기를 꼭 살펴보길 권한다. 우리는 브라우저에서 구동되는 도메인 특화 초소형 모델을 여럿 학습시켰는데, GPT-3.5를 이겼고 지금도 1T 이상 파라미터의 생성형 디코더 전용 모델들을 능가한다. 이들은 추론이나 사고가 전혀 필요 없는 완전히 다른 클래스의 모델이다. Jev가 무엇인지, 그를 둘러싼 과대광고가 무엇인지는 모르겠다.