རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་དུ་AI སྒྲིག་བཅུག

འདི་ནི་ XDA-Developers གསར་ཁང་གིས་སྤེལ་བའི་དཔྱད་རྩོམ་ལ་གཞིགས་ཏེ། ཉིན་རེའི་ལས་ཀའི་ནང་ ChatGPT ཡི་ཚབ་ཏུ་རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་ཐད་ཀར་བཀོལ་ཆོག་པའི་བཅོས་མའི་རིག་ནུས་ (Local LLM) བཀོལ་སྤྱོད་བྱས་པའི་ཉམས་མྱོང་དང་དེའི་དགེ་སྐྱོན་སྐོར་གྱི་ཞིབ་ཕྲའི་གནས་ཚུལ་ཡིན། རིག་ནུས་དང་གློག་ཀླད་སྐོར་གྱི་ཤེས་བྱ་གསར་པ་དང་ཕན་ཐོག་ཅན་ཞིག་ཡིན།


ཉིན་རེའི་ལས་ཀའི་ནང་ ChatGPT ཡི་ཚབ་ཏུ་རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་གི་ AI བཀོལ་བ།

ChatGPT ནི་མགྱོགས་ཤིང་སྟབས་བདེ་བས་མི་མང་པོའི་གདམ་ག་དང་པོ་དེ་ཡིན་ཡང་། རྩོམ་པ་པོ་ Nolen Jonker ལགས་ཀྱིས་རང་གི་རྩིས་འཁོར་སྟེང་དུ་བཅོས་མའི་རིག་ནུས་ (Local LLM) བཀོལ་ནས་ལས་ཀ་བྱས་པ་དེས་ ChatGPT ལས་ལྷག་པའི་དགེ་མཚན་འགའ་ཤས་མཐོང་ཡོད།

༡། ChatGPT ཉིན་རེའི་ལས་ཀར་བཀོལ་བའི་དཀའ་ངལ།

ChatGPT ནི་དྲ་རྒྱའི་སྤྲིན་ཚོགས་ (Cloud-based) ལ་བརྟེན་ཡོད་པས། གཤམ་གསལ་གྱི་དཀའ་ངལ་འགའ་ཡོད།:

  • དྲ་རྒྱར་བརྟེན་དགོས་པ: དྲ་རྒྱ་མེད་ན་ལས་ཀ་བྱེད་མི་ཐུབ། འབྲེལ་མཐུད་ཆད་ཚེ་ལས་ཀའི་བརྒྱུད་རིམ་ལའང་བར་ཆད་འབྱུང་།
  • གསང་རྒྱ་དང་བདག་དབང་མེད་པ: ཁྱེད་ཀྱི་གཏམ་གླེང་དང་གནས་ཚུལ་དག་ཀམ་པ་ཎི་གཞན་གྱི་གསོག་འཇོག་འཕྲུལ་འཁོར་ (Server) སྟེང་ཡོད་པས། དེ་དག་ལ་བདག་དབང་ཆ་ཚང་མེད་པ་དང་། ཀམ་པ་ཎི་དེས་ཁྱེད་ཀྱི་གནས་ཚུལ་དག་ AI སྦྱོང་བརྡར་ལ་བཀོལ་སྲིད།
  • སུན་བཅོས་དང་ཚད་བཀག: སྐབས་རེར་ལུགས་མཐུན་གྱི་རེ་བ་ཡིན་ནའང་། ChatGPT ཡིས་སྒྲིག་གཞི་དམ་པོའི་འོག་ནས་ལན་འདེབས་མི་བྱེད་པ་དང་། གཏམ་གླེང་རིང་པོ་ཆགས་སྐབས་མྱུར་ཚད་དལ་དུ་འགྲོ་བའི་སྐྱོན་ཡོད།

༢། རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་ AI བཀོལ་བའི་དགེ་མཚན། (Local LLM)

རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་ LM Studio ལྟ་བུའི་མཉེན་ཆས་བཀོལ་ནས་ AI བཀོལ་ན། གཤམ་གསལ་གྱི་དགེ་མཚན་ཡོད།:

  • གསང་རྒྱ་དང་བདག་དབང་།: གནས་ཚུལ་ཐམས་ཅད་རང་གི་རྩིས་འཁོར་ནང་དུ་གནས་པ་དང་། གནས་ཚུལ་དག་ JSON ཡིག་ཆའི་ནང་དུ་རང་བཞིན་གྱིས་ཉར་ཚགས་བྱེད་པས། བདག་དབང་ཆ་ཚང་རང་ཉིད་ལ་ཡོད།
  • དྲ་རྒྱ་མི་དགོས་པ: དྲ་རྒྱ་མེད་པའི་སྐབས་སུའང་ AI བཀོལ་ནས་བསམ་བློ་འཚོལ་བ་དང་ཡི་གེ་འབྲི་བའི་ལས་ཀ་བྱེད་ཐུབ། དྲ་རྒྱའི་བར་ཆད་མེད་པས་མྱུར་ཚད་ཀྱང་མགྱོགས།
  • གདམ་ག་མང་བ: ChatGPT ལྟར་ལྷུ་ལག་གཅིག་པུར་བརྟེན་མི་དགོས་པར། རང་གི་ལས་ཀར་གང་འཚམ་པའི་ AI ལྷུ་ལག་ (Model) མི་འདྲ་བ་མང་པོ་ནས་གདམ་ག་བྱེད་ཆོག
  • སྟངས་འཛིན་བྱེད་ཐུབ་པ: AI ཡི་གསར་གཏོད་ཀྱི་ཚད་ (Temperature) དང་། ཡི་གེའི་རིང་ཐུང་སོགས་རང་ཉིད་ཀྱིས་སྒྲིག་བཟོ་བྱེད་ཐུབ།

༣། རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་ AI ཇི་ལྟར་འཛུགས་དགོས་སམ།

སྔོན་མ་ཡིན་ན་འདི་ལ་གློག་ཀླད་ཀྱི་ཡི་གེ་ (Coding) ཤེས་དགོས་ཀྱང་། ད་ལྟ་ LM Studio ལྟ་བུའི་མཉེན་ཆས་བཀོལ་ན་ལས་སླ་པོ་ཡིན།

  • དགོས་མཁོའི་ལྕགས་ཆས (Hardware): ཁྱེད་ཀྱི་རྩིས་འཁོར་ལ་རྐྱེན་འདི་དག་དགོས།:
    • GPU: 4GB+ ཡི་ VRAM (8GB ཡིན་ན་ལེགས)།
    • RAM: 16GB ཡན་ཆད།
    • Storage: 20GB+ ཡི་བར་སྟོང་ (SSD ཡིན་ན་ལེགས)།

མཇུག་བསྡོམས་ཀྱི་བསམ་གཞིག

རང་ཉིད་ཀྱི་རྩིས་འཁོར་སྟེང་ AI བཀོལ་བ་དེ་ནི་ ChatGPT ཡོངས་རྫོགས་སྤངས་པ་མ་ཡིན་པར། རང་གི་ལས་ཀའི་བརྒྱུད་རིམ་དེ་སྔར་ལས་གསང་རྒྱ་དོད་པ་དང་། བདེ་འཇགས་ལྡན་པ། དེ་བཞིན་དྲ་རྒྱར་བརྟེན་མི་དགོས་པ་བཟོ་བྱེད་ཀྱི་ཐབས་ལམ་མཆོག་ཏུ་གྱུར་པ་ཞིག་ཡིན། ལྷག་པར་དུ་སློབ་སྦྱོང་དང་དཔྱད་རྩོམ་འབྲི་མཁན་ཚོར་འདི་ནི་ཧ་ཅང་གལ་ཆེན་ཡིན།

ཁུངས་གཏུགས: “My local LLM replaced ChatGPT for most of my daily work” (https://www.xda-developers.com/local-llm-replaced-chatgpt-for-daily-work/).

འབྲེལ་ཡོད་རྩོམ་ཡིག་གཞན།

དཔྱད་མཆན་སྤེལ།

ཁྱེད་ཀྱི་གློག་ཡིག་གི་ས་གནས་དེ་ཁྱབ་སྤེལ་བྱེད་ཀི་མིན། རྟགས * ཅན་ངེས་པར་དུ་བླུགས་དགོས།