ความเร็วของการเปลี่ยนแปลงใน Ai น่าทึ่งมาก.

"""ในปี 2019 OpenAI ได้ประกาศ GPT-2 วันนี้ (ประมาณ 5 ปีต่อมา) คุณสามารถฝึกฝนของคุณเองได้ในราคา ~$672 โดยทำงานบนโหนด 8XH100 GPU หนึ่งโหนดเป็นเวลา 24 ชั่วโมง""

ค่าใช้จ่ายลดลงอย่างมากในช่วง 5 ปีที่ผ่านมาเนื่องจากการปรับปรุงฮาร์ดแวร์ประมวลผล (GPU H100), ซอฟต์แวร์ (CUDA, cuBLAS, cuDNN, FlashAttention) และคุณภาพของข้อมูล (เช่น ชุดข้อมูล FineWeb-Edu)

เนื่องจาก llm.c เป็นการใช้งานการฝึกอบรม GPT โดยตรงใน C/CUDA ข้อกำหนดจึงมีเพียงเล็กน้อย - ไม่จำเป็นต้องมีสภาพแวดล้อม conda, ตัวแปล Python, การติดตั้ง pip ฯลฯ

คุณหมุนโหนด GPU บนคลาวด์ (เช่น บน Lambda) หรือจะติดตั้ง NVIDIA cuDNN, NCCL/MPI ก็ได้ ดาวน์โหลดชาร์ดข้อมูล .bin คอมไพล์และรัน คุณก็ดำเนินการได้ภายในไม่กี่นาที

จากนั้นคุณรอ 24 ชั่วโมงและเพลิดเพลินไปกับตัวอย่างเกี่ยวกับยูนิคอร์นที่พูดภาษาอังกฤษในเทือกเขาแอนดีส"

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องการทางเทคโนโลยีของคุณทุกเมื่อ