การทดสอบเบนช์มาร์กอย่างเป็นทางการครั้งแรกของชิปประมวลผล AI Custom ASIC ในชื่อ "Jalapeño" ซึ่งร่วมพัฒนาโดย OpenAI และ Broadcom (ผลิตโดย TSMC) เผยแพร่ในงานประชุมวิชาการ Hot Chips 2026
สรุปสาระสำคัญของเบนช์มาร์กชิป "Jalapeño"
1. ประสิทธิภาพและความประหยัดพลังงาน (Efficiency & Throughput)
- ผ่านการสอบวัดด้วย InferenceX: ทำการทดสอบผ่านชุดเบนช์มาร์กมาตรฐาน InferenceX (โดย SemiAnalysis) ร่วมกับโมเดลสาย Open-weight ขนาดใหญ่ เช่น GPT-OSS 120B, DeepSeek R1 670B และ Kimi K2.5 1T
- ประสิทธิภาพต่อวัตต์เหนือกว่า: ให้ปริมาณงาน (Throughput) สูงกว่าระบบ Nvidia GB200/GB300 (Blackwell) อยู่ที่ 1.5 ถึง 1.9 เท่า ต่อกิโลวัตต์ ในจุด peak throughput
- ความหน่วง (Latency) ต่ำกว่า: ทำความหน่วงปลายทาง (End-to-End Latency) ได้ต่ำกว่าระบบ Blackwell ถึง 1.7 ถึง 3.6 เท่า ช่วยตอบสนองผู้ใช้ได้รวดเร็วขึ้นอย่างมากในงานประเภท Interactive
2. คุณลักษณะด้านฮาร์ดแวร์และพลังงาน
- Inference-Only ASIC: ชิปนี้ถูกออกแบบมาเพื่อ ประมวลผลคำตอบ (Inference) เท่านั้น ไม่ได้ออกแบบมาเพื่อใช้ฝึกสอนโมเดล (Training) แต่อย่างใด
- การใช้พลังงานต่ำ: ชิป Jalapeño มีค่าอัตราการใช้พลังงานสูงสุด (Package TDP) เพียง 700 วัตต์ (ใช้จริงต่อเนื่องราว 550W) ในขณะที่ระบบคู่แข่งอย่าง Nvidia GB300 ต้องใช้พลังงานสูงถึง 1,400 วัตต์
- การระบายความร้อน: ด้วยกำลังไฟที่ต่ำกว่าครึ่ง ทำให้สามารถใช้ระบบระบายความร้อนด้วยอากาศ (Air-cooling) ในศูนย์ข้อมูลบางส่วนได้ ต่างจากชิปฝั่ง Nvidia ที่ต้องพึ่งพาระบบระบายความร้อนด้วยของเหลว (Liquid-cooling) เป็นหลัก
3. แผนการใช้งานและยุทธศาสตร์ของ OpenAI
- เริ่มใช้งานจริงปลายปี 2026: OpenAI มีแผนที่จะเริ่มติดตั้งชิป Jalapeño ในโครงสร้างพื้นฐานศูนย์ข้อมูลของตัวเองในระดับปริมาณจำกัด (Low volume) ช่วงปลายปี 2026 ก่อนที่จะขยายขนาดการใช้งานจริง (Full-scale rollout) ในปี 2027
- ลดต้นทุนการให้บริการ AI: การนำชิปประมวลผลที่ออกแบบเองมาใช้ในงาน Inference ช่วยให้ OpenAI สามารถลดค่าใช้จ่ายด้านพลังงานและฮาร์ดแวร์ลงได้ราว 50% รวมถึงลดการพึ่งพาฮาร์ดแวร์จาก Nvidia เพียงเจ้าเดียวในการประมวลผลประจำวัน
