우수한 소프트웨어와 실용적인 튜토리얼
DeepSeek R1 Unrestricted Edition의 로컬 배포: 탈옥된 AI 모델의 종합적인 분석
최근 스타트업 딥시크 여러 차례의 기술적 반복과 업그레이드를 거쳐 새로운 세대의 대형 모델이 공식적으로 출시되었습니다.딥시크-V3이 모델은 뛰어난 성능과 뛰어난 실용성으로 인해 폭넓은 주목을 받았습니다. 딥시크 R1 더 직접적 무료 및 오픈 소스AI 기술 애호가들이 자유롭게 다운로드하여 로컬에 배포할 수 있습니다.
딥시크 R1 다양한 성능 지표는 OpenAI-o1 모델과 유사하며, 심지어 약간 더 우수하기도 합니다. 오픈소스이기 때문에 로컬에서 배포하고 사용하기 편리합니다.
DeepSeek R1이 기술 커뮤니티에 빠르게 확산되면서 해외 소셜 플랫폼 및 기술 포럼는 많은 논의를 불러일으켰고 해외 사용자들로부터 뜨거운 호평을 받았습니다. 다양한 성과 지표 관점에서 볼 때,OpenAI-o1 모델과 거의 동등하며 일부 작업에서는 이를 능가하기도 합니다.더 중요한 것은 DeepSeek R1입니다. 완전 오픈 소스즉, 사용자는무료 배포, 심층적인 사용자 정의상용 API의 규칙과 비용에 구애받지 않습니다. AI 연구자, 개발자, 심지어 AI 애호가에게도 이는 의심할 여지 없이 가치 있는 대규모 모델입니다.
최근 몇 년 동안 AI 빅 모델의 개발은 날로 발전해 왔습니다. 하지만 콘텐츠 검토, 사용 제한, 윤리적 필터링 등의 문제는 많은 AI 연구자와 기술 애호가들에게 큰 제약이 되어 왔습니다. 이제 DeepSeek R1이 출시되었습니다. 제한 없는 버전(탈옥 버전)—— deepseek-r1-abliterated 공식적으로 호스팅됨 껴안는 얼굴, 그리고 제공하다 8B, 14B, 32B 매개변수 스케일이 포함된 모델을 다운로드하세요. 공식 버전과 비교했을 때, 이 모델은콘텐츠 검열 및 윤리적 필터링 제거사용자가 수행할 수 있도록 허용AI 상호작용, 연구 및 탐색에 대한 더 많은 자유.
탈옥버전 ≠ 약한버전, 가벼운 모델도 여전히 강력하다
많은 사람들이 콘텐츠 제한이 해제되면 DeepSeek R1 탈옥 버전이 "충분히 똑똑하지 않게" 될지 궁금해할 것입니다. 사실, 이러한 오해는 대규모 모델 아키텍처에 대한 이해 부족에서 비롯됩니다. 공식 완전 모델 확장 가능 671B 매개변수이 규모의 AI는 슈퍼컴퓨팅 클러스터나 클라우드에서만 실행할 수 있어 일반 사용자에게는 실용적이지 않습니다.로컬로 배포할 수 없습니다그래서 우리는 대부분 지역적으로 운영합니다7B, 8B, 14B, 32B 이것들증류 압축이러한 모델의 매개변수 수와 671B의 매개변수 수 사이에 엄청난 차이가 있지만, 이것이 이 모델이 "지능적이지 못하다"는 것을 의미하지는 않습니다.
실제로 증류 기술의 존재로 인해 이러한 작은 모델이 대형 모델의 핵심 지식을 유지하는 동시에컴퓨팅 비용, 응답 속도 및 로컬 배포 가능성예를 들어,8B 버전은 일상적인 질문 답변과 가벼운 추론 작업에 적합하고, 14B 버전은 보다 복잡한 텍스트 생성에 적합하며, 32B 버전은 전체 대형 모델에 더 가까운 추론 기능을 제공할 수 있습니다.AI에 관심이 있는 개별 연구자, 개발자, 심지어 애호가에게도 이러한 모델은 심층적인 탐색을 지원하기에 충분합니다.
DeepSeek R1의 탈옥 버전은 이제 8B, 14B 및 32B를 지원하는 Hugging face에 호스팅됩니다. 다운로드 페이지로 이동
온프레미스 배포의 중요성: 제어, 개인 정보 보호, 보안
클라우드 AI를 사용하는 것과 비교했을 때 로컬 배포 DeepSeek R1 탈옥 에디션 또한 다음과 같은 몇 가지 중요한 이점이 있습니다.
- AI 운영 환경에 대한 완전한 제어: 로컬 배치란서버 규칙이나 콘텐츠 필터링 정책의 적용을 받지 않습니다.사용자는 아무런 제한 없이 자신의 필요에 따라 AI 상호작용 방법을 사용자 정의할 수 있습니다.
- 개인정보 보호 데이터 보안: 클라우드에서 AI를 사용할 경우 모든 입력 콘텐츠는 서버에서 처리되며, 여기에는 개인 정보 보호 및 민감한 정보가 포함될 수 있습니다. 로컬 운영을 통해 데이터를 안전하게 보호할 수 있습니다.전적으로 귀하의 기기에 저장하세요, 제3자에 의한 수집을 피하기 위해.
- 오프라인에서 사용 가능, 지연 없음：클라우드 AI는 네트워크 연결에 의존하는 반면 로컬에 배포된 AI는오프라인 환경에서 실행서버 혼잡이나 접속 제한으로 인한 불편을 방지합니다.
- 사용자 정의 가능한 미세 조정: 로컬에서 실행되는 AI 모델사용자 요구에 따라 미세 조정 가능예를 들어, 대화 스타일을 조정하고, 특정 분야의 지식을 강화하고, 심지어 RAG(Retrieval Augmented Generation) 기술을 결합하여 AI의 전문성을 높이는 등의 방안이 있습니다.
자신에게 맞는 버전을 선택하려면 어떻게 해야 하나요?
예를 들어, 기기의 컴퓨팅 리소스가 제한된 경우 일반 노트북이나 중형 데스크탑, 권장됩니다 버전 8B 메모리 요구 사항이 비교적 낮고 일상적인 사용에 적합합니다.고성능 GPU(RTX 4090 이상 등), 시도해 볼 수 있습니다 14B 또는 32B, 그들은 이해 능력과 텍스트 생성 품질 측면에서 완전한 대형 모델에 더 가깝습니다.
~을 위한기업 사용자또는고급 과학 연구 요구 사항32B 버전을 여러 GPU 서버나 로컬 클러스터에서 실행하거나 더 큰 모델 아키텍처를 탐색해 볼 수도 있습니다.
로컬 배포 탈옥 단계
1단계: Ollama 다운로드 및 설치
Ollama 설치 링크:https://ollama.com/download
2단계: DeepSeek R1 탈옥 버전 다운로드
CMD 터미널에서 명령어를 통해 DeepSeek R1 탈옥 버전을 다운로드하세요.
7b
ollama run huihui_ai/deepseek-r1-abliterated:7b
8b
ollama run huihui_ai/deepseek-r1-abliterated:8b
14b
ollama run huihui_ai/deepseek-r1-abliterated:14b
32b
ollama run huihui_ai/deepseek-r1-abliterated:32b
70b
ollama run huihui_ai/deepseek-r1-abliterated:70b
3단계: 로컬 AI 모델의 웹 UI 설치
로컬 AI 모델을 위한 사이드바 및 웹 UI 로컬에서 실행되는 자체 AI 모델을 활용하여 탐색하는 동안 상호 작용하거나 Ollama, Chrome AI 등과 같은 로컬 AI 모델 제공업체를 위한 웹 UI로 활용할 수 있습니다.저장소: https://github.com/n4ze3m/page-assist 현재 기능: - 다양한 작업을 위한 사이드바 - 비전 모델 지원 - 로컬 AI 모델을 위한 최소한의 웹 UI - 인터넷 검색 - 사이드바에서 PDF 채팅 - 문서(pdf, csv, txt, md, docx)와 채팅 지원 제공업체: - Ollama - [베타] Chrome AI(Gemini Nano) - [베타] OpenAI 호환 API 지원(LM Studio, Llamafile 등 제공업체).
웹 UI를 설치한 후 deepseek r1 탈옥 버전 AI 대형 모델을 로컬에서 호출할 수 있습니다.
딥시크 R1 탈옥 버전 AI 기술 애호가와 연구자들의 등장으로 AI에 대한 자유로운 탐구 공간이 제공되어 콘텐츠 검열이나 규칙 제한을 받지 않습니다.대규모 모델의 잠재력을 진정으로 발휘합니다. 로컬 배포는 개인 정보 보호 및 보안을 강화할 뿐만 아니라 사용자가 AI를 더욱 심층적으로 제어할 수 있도록 하여 개인 맞춤형 스마트 비서로 활용할 수 있도록 합니다.
AI 기술에 관심이 있고 직접 경험하고 싶다면콘텐츠 제한 없음, 완전 자율성 및 제어 가능딥시크 R1 deepseek-r1-abliterated 꼭 시도해 보세요!
