Tình trạng thị trường, tiến bộ kỹ thuật và xu hướng phát triển của chip ASIC Q: những thay đổi nào trong công nghệ tính toán, đặc biệt là vấn đề khi triển khai quy mô lớn? A: công nghệ tính toán đã thay đổi đáng kể trong hai năm qua, ví dụ như những công nghệ NVL36, NVL72, IB và CPO, LPO và những công nghệ khác. Trong việc triển khai quy mô lớn, các vấn đề bao gồm các vấn đề rò rỉ sau này, các vấn đề liên kết PCB cùng một giai đoạn, vv. Trong khi đó, nhìn từ góc nhìn của NV (nvidia), chủ yếu là một vấn đề giá cả hiệu quả, đó là năng lượng GPU nhỏ, đắt tiền, gây ra chi phí quá thấp trong việc ứng dụng hai đầu của thuyết lý luận. Thí dụ, 15 triệu magiê kẽm được sử dụng trong 910C và DB200 cho thấy chi phí và năng lượng vẫn còn rất khó để giải quyết. Q: tại SAO chip ASIC lại được chỉ ra là xu hướng thay thế GPU, và công nghệ của nó và công nghệ GPU có lợi thế gì so với nó? A: con chip ASIC được xem là một hướng công nghệ mới để thay thế GPU vì nó có năng lượng tiêu thụ thấp, giá cả tương đối đắt và hiệu quả cao. Tương tự như xu hướng thay thế FPDA bằng ASIC tại các trạm 5G, ASIC có khả năng cạnh tranh về mặt kỹ thuật. Trong khi đó, các đại gia công nghệ như Google đã phát triển các ứng dụng trơn tru của chip TPU, và nhu cầu tối ưu của thị trường cho hiệu suất cao và hiệu quả năng lượng, thúc đẩy các ứng dụng rộng rãi của chip ASIC trong các nhà sản xuất đám mây và al đào tạo lý luận. Q: từ góc nhìn của nhà đầu tư, liệu con chip ASIC có thể đáp ứng được những gợi ý về tính khả thi kỹ thuật và tính khả thi kinh doanh của việc triển khai ở quy mô lớn của người dùng? A: tính khả thi về công nghệ và tính khả thi về kinh doanh là hai điều mà các nhà đầu tư quan tâm nhiều nhất. Hiện nay, ngày càng nhiều nhà sản xuất phụ thuộc vào các mô hình hiệu quả và tăng mật độ phân loại và hiệu quả, thúc đẩy các ứng dụng của chip ASIC trong các nhà sản xuất đám mây và tối ưu hóa trung tâm dữ liệu. Ngoài ra, do nguồn cung cấp chip nvidia căng thẳng, các nhà sản xuất điện toán đám mây hy vọng sử dụng chip ASIC để giảm chi phí, đảm bảo sự ổn định của chuỗi cung ứng, và tối ưu hóa các ứng dụng cụ thể, thúc đẩy sự phát triển quy mô lớn của thị trường ASIC. Q: con chip ASIC có đáp ứng được nhu cầu của mô hình suy luận lớn không? A: trên thực tế, so sánh với sản phẩm TPUV5 hiện nay của Google, có cả chip lý luận và chip huấn luyện, những con chip này thực sự đáp ứng nhiều nhu cầu, bao gồm cả huấn luyện, vượt qua sự hiểu lầm mà con người chỉ có thể lý luận. Q: thiết kế TPU của Google rất phù hợp cho việc tự học về độ sâu và phép nhân ma trận một cách nhanh chóng, nhưng không phù hợp với tất cả các loại mô hình học sâu, ví dụ, mô hình lớn ngôn ngữ (LLM)? A: thiết kế của TPU thực sự rất thích hợp cho việc học sâu và phép nhân ma trận, nhưng nó không phổ biến trong việc xử lý các mô hình ngôn ngữ lớn và vân vân, nó thiên về một số mô hình cụ thể của Google. Q: trong ngành công nghiệp hiện nay, công ty nào có hiệu suất và tính phổ biến cao nhất trong lĩnh vực đào tạo chip? A: con chip huấn luyện của nvidia hiện nay là một trong những con chip hàng đầu trong lĩnh vực máy tính, tính phổ biến và môi trường lập trình. Mặc dù có những đối thủ khác, như Google, Meta và amazon, nhưng vị trí của chip nvidia trong ngành công nghiệp, đặc biệt là trong việc đào tạo các mô hình ngôn ngữ lớn như ChatGPT của OpenAI, con chip nvidia vẫn là tình yêu mới. Q: có sự khác biệt nào giữa H100 và TPU5E về tính năng và năng lượng tiêu thụ? A: tính toán của H100 mạnh mẽ, phù hợp với 4000 đến 8000 máy tính xách tay, và TPU5E tính toán là tương đối nhỏ, sử dụng cách dự đoán dấu chấm cố định, dự đoán dấu chấm động tính toán khoảng 400 đến 500. Về năng lượng, năng lượng của H100 là khoảng 7 triệu, cao hơn khoảng 2 triệu TPU5E. Q: có sự tương đồng nào giữa H100 và TPU5E với lượng bộ nhớ khổng lồ cần cho việc huấn luyện mô hình lớn? Ý tưởng của Google và các công ty khác như Meta, amazon trong việc thiết kế máy gia tốc AI là gì? A: H100 được trang bị bộ nhớ HBM 188GB, và TPU5E chỉ có khoảng 95 đến 100GB, khoảng một nửa của H100. Google và các công ty khác nhận ra rằng nếu cạnh tranh với nvidia, họ có thể rơi vào tình huống lựa chọn năng lượng cao. Vì vậy, họ đang làm việc để thiết kế những con chip có thể có chức năng kém hơn vidia nhưng có thể tạo ra những cụm tốt hơn cùng lúc, ví dụ như con chip V6 mới ra mắt có thể tạo ra 100,000 cụm, và tạo ra những lợi thế đáng kể. Q: về giá cả, Google có lợi thế nào so với vidia H100? A: Về mặt giá cả, Google TPU5E giá khoảng $2000 đến $3000, và giá của nvidia H100 có thể lên đến khoảng $50,000, do đó, TPU tổng thể xuất sắc về giá cả hiệu quả, chẳng hạn như dịch vụ đám mây dựa trên TPU5P tính phí không phải là khoảng 8 xu một giờ, Nhiều gấp đôi hay thậm chí 10 đô la một giờ để đi xa hơn vidia H100, và lợi thế này càng lớn hơn khi các thế hệ mới được ra mắt. Q: Google cần gì ở vidia chip khi đặt hàng chip? A: bản thân Google sử dụng ít hơn một triệu con chip TPUV51V5P, cho thấy nhu cầu của nó về con chip huấn luyện tập quy mô lớn của nvidia ít hơn so với 200.000 con chip nvidia được mua. Tuy nhiên, Google có thể cần nhiều hơn cho các chip đẩy, đặc biệt là cho các mô hình đặc biệt như mô hình former và mô hình cancer, vv, có thể sử dụng TTPU V5P được đào tạo. Q: hiện nay đối với hoàng innocent WeiDa nhu cầu con chip nhỏ nhất của hai công ty là những gì? A: hiện nay, hai công ty có nhu cầu lớn nhất về vidia chip là Meta và Google, hai công ty chủ yếu dựa vào vidia chip để huấn luyện các mô hình ngôn ngữ lớn, mỗi công ty mua khoảng 600.000 mảnh. Q: những công ty nào ở châu á có khả năng sử dụng hoặc từ chối thẻ S (GPU) ít hơn? A: lý luận với huấn luyện dựa trên mô hình lớn của đất nước, hoặc nhu cầu cao của công ty có ALiBaBa, là, qq.com, là một, baidu và byte đập. Trong số đó, baidu phương lái tự động với hơn và tìm kiếm kinh doanh khác; Byte nhảy là tập trung cao vào video, nội dung phân hủy và các khía cạnh được giới thiệu; ALiBaBa ở trung quốc là công ty cung cấp dịch vụ của trời mây lớn hơn, nó sử dụng trường hợp tương tự như amazon; Tencent hoạt động gần gũi hơn với Meta, liên quan đến các lĩnh vực như ứng dụng, video và AR/VRQ: ở châu á hay không có thẻ tín dụng của các công ty và tình trạng của họ trong thiết kế chip AI? A: hiện nay trong nước, alibaba, baidu và các công ty khác đang phát triển các chip xây dựng al của riêng họ, nhưng không cùng lúc đạt được thử nghiệm hoặc ứng dụng quy mô lớn vào trung tâm của mô hình ngôn ngữ hoặc al nhanh. Nguyên nhân có thể bao gồm các quy định của hoa kỳ dẫn đến việc không thể giành chiến thắng đầu tiên trong việc sản xuất thêm năng lượng, và các công ty thiết kế chip trong nước hiện nay thiếu khả năng rõ ràng trong thiết kế của một mô hình cụ thể, so với các doanh nghiệp phát triển quốc tế như broadcom, diatek và khác là lạc hậu. Q: có những phe chính nào trong thị trường cho các nhà thiết kế ASIC? A: thị trường các dịch vụ thiết kế ASIC chủ yếu là Marvell và BrownTown (và phát sáng), hai công ty có một lịch sử thiết kế lâu dài và một quá trình thiết kế tiên tiến để đảm bảo một dòng chảy chạy suôn sẻ. Marwell đã củng cố thêm khả năng phục vụ của mình bằng cách mua lại toàn bộ đội ngũ thiết kế của GlobalFoundry và trở thành khách hàng lâu năm của Google. Q: vị trí của MTK mediatek và các công ty khác trên thị trường chip AI ti T là gì? A: MTK mediatek và các công ty khác không phải là những dịch vụ thiết kế theo nghĩa truyền thống, nhưng họ có khả năng thiết kế chip mạnh mẽ, bắt đầu từ điện tử tiêu dùng như điện thoại di động, DVD/VCD và các sản phẩm khác, và dần dần mở rộng đến thiết kế chip cho các doanh nghiệp và al. Tuy nhiên, sự phong phú của IP và khả năng thiết kế tổng thể vẫn còn thiếu một chút so với các công ty ở trại 1. Q: những người chơi chính trên thị trường chip AI + T hiện nay là AI? Thị trường nguồn gốc? A: trên thị trường chip AI + T, hai người chơi chính là brothom và marwell, trong đó brothom chiếm khoảng 70% thị phần, và marville chiếm gần 30% thị phần. Khách hàng chính của broadcom bao gồm Google, Meta, amazon, byte beating (OpenAI) và có thể apple; Và khách hàng chính của marwell là Microsoft. Q: tình hình hiện tại của các công ty sản xuất chip al là gì? A: hiện nay, lượng sản xuất chưa đạt mức cao, và các công ty khác thì tương đối thấp, ngoại trừ Google. Google sản xuất khoảng 1.2 triệu bản trong năm nay, chủ yếu là từ các chip V5P và V5P, và dự kiến sẽ sản xuất ít hơn 1.5 triệu bản trong năm tới, một phần bán ra từ các chip V6. Meta, sau khi cập nhật các con chip, dự kiến sẽ sản xuất khoảng 300,000 mảnh vào năm tới. Amazon có hai con chip (tiểu thuyết lý luận và đào tạo), được sản xuất ít hơn trong năm nay và dự kiến gần nửa triệu con vào năm tới. Các chip đập byte được dự kiến sẽ bắt đầu trong nửa thứ hai năm tiếp theo của hàng hóa quy mô lớn, ban đầu là không lớn, nhưng thời gian có thể gần 300.000 mảnh. Công trình OpenAI vẫn đang được triển khai, và nó được dự kiến sẽ ra mắt vào đầu năm 2026, với quy mô khoảng 100.000 bản. Apple đang ở giai đoạn đầu tiên, và dự kiến vận chuyển vào năm 2026, sẽ có khoảng 100.000 mảnh. Q: vị trí của chip TPU trên thị trường là gì? Hiện trường ứng dụng của nó là gì? A: con chip TPU tùy chỉnh của Google đứng đầu trong việc cung cấp và vận chuyển các chip trên thị trường. TPU được sử dụng chủ yếu cho các dịch vụ của Google như tìm kiếm (tìm kiếm hình ảnh và tìm kiếm video), YouTube và dịch vụ tự học sâu về trung tâm dữ liệu của GoogleCloud, đặc biệt là cho các ứng dụng dựa trên mô hình biến hình. Hiện nay, bởi vì hoa kỳ đã không có đơn giản trừng phạt các công ty thiết kế dịch vụ như broad, marville và các công ty trung quốc đại lục, do đó, nó đã không kích hoạt các rủi ro liên quan, nhưng không có rủi ro cấm đoán trong tương lai vẫn không được xác nhận. Q: trong nước, có một khoảng cách lớn giữa các công ty chip Cambrian trong thị trường lái tự động và các ứng dụng khác, so với các công ty chip mỹ? A: vâng, các công ty chip trong nước có những ứng dụng thuận lợi nhất định trên một số thị trường cụ thể như lái xe tự động, nhưng trong lĩnh vực tăng tốc al tổng thể, bao gồm cả các công ty chip trung quốc, vẫn còn một khoảng cách lớn so với các công ty chip mỹ. Chính phủ hoa kỳ tin rằng đó là một mối đe dọa và do đó không thể áp dụng lệnh cấm trong một thời gian ngắn. Q: liệu Google có gia tăng sự phụ thuộc vào khách hàng trung quốc trong tương lai và chuyển sang thiết kế chip của riêng mình? A: Google đang dần giảm sự phụ thuộc vào các nhà cung cấp nội bộ như broadcom, và có một đội ngũ thiết kế bên ngoài có khả năng tốt hơn, và có khả năng sẽ dần dần chuyển sang phát triển chip nội bộ trong hai hoặc ba năm tới. Nhiều nguồn phát triển của broadcom có thể phải đến từ khách hàng nước ngoài, bao gồm cả khách hàng trung quốc. Q: liệu lộ trình công nghệ ánh sáng hay xu hướng phát triển có thay đổi do sự phát triển của các công nghệ mới như 800G, 1.6T, LPO và CPU? A: xu hướng phát triển của công nghệ mô-đun ánh sáng thực sự thay đổi. Mô-đun ánh sáng 800G và 1.6T vẫn có thể cắm phần lớn, nhưng vào khoảng năm 2026, với sự trưởng thành của CPU và sản xuất hàng loạt, các mô-đun cắm và kéo sẽ dần dần bị loại khỏi, và chuyển sang cách tương tác hiệu quả hơn của ánh sáng toàn silicon. Hiện nay, các công nghệ và công nghệ liên quan, bao gồm cả chip silicon, đang được phát triển và bố trí bởi nhiều nhà sản xuất ở cả nước và nước ngoài. Q: tương lai của công nghệ tích hợp silicon và những thay đổi thị trường nào sẽ được thêm vào? A: công nghệ tích hợp silicon là xu hướng trong tương lai, các nhà sản xuất như TSMC sẽ thúc đẩy sự phát triển của công nghệ này, dự kiến rằng chuỗi cung ứng của các ngành công nghiệp có liên quan sẽ phát triển đến năm 2028. Điều này sẽ mang lại rất nhiều thay đổi trên thị trường, chẳng hạn như bộ chuyển mạch và các môđun quang điện silicon tích hợp cao hơn, nhu cầu thị trường vật liệu mới giảm (như chất PCB và sợi quang), và cũng có thể dẫn đến một số thị trường liên quan đến bộ chuyển mạch truyền thống giảm (như PCB thị trường). Ngoài ra, với sự ứng dụng của công nghệ ánh sáng silicon, nhu cầu cho các bộ phận cụ thể như nguồn sáng CW sẽ tăng rất nhanh. Q: điều gì sẽ xảy ra với việc sử dụng các công nghệ mới như quản lý nhiệt độ và hệ thống sưởi, làm lạnh bằng chất lỏng ở Iran và toàn bộ trung tâm dữ liệu? A: làm lạnh bằng chất lỏng hoặc công nghệ làm mát cải tiến làm mát trung tâm dữ liệu trực quan và hiệu quả hơn, nhờ đó cải thiện năng lượng toàn bộ, giảm áp lực trên cơ sở làm mát, có một tác động lớn lên thị trườngQ: tính toán hiện tại chủ yếu là 1.6T silicon công nghệ, 1.6T giao hàng bây giờ tiến độ? 1.6T module đơn giá và tăng lên? A: hiện nay, các nhà sản xuất đã bắt đầu cung cấp sản phẩm 1.6T, nhưng sản xuất chip quang 1.6T dựa trên 200 g được dự kiến vào cuối năm nay là khoảng 2 triệu mảnh, chuyển đổi đến mức độ mô-đun ánh sáng có thể là khoảng 300.000 đến 300.000. Năm tới với nhà sản xuất 200G chip ánh sáng và module ánh sáng, hàng hóa sẽ có một sự tăng trưởng đáng kể nhanh chóng, được dự kiến để phù hợp với 4 triệu bộ sản xuất module ánh sáng. Và giá trung bình của 200 gigabyte trang hiện nay là từ 50 đến 60 đô la. Q: công nghệ silicon cạnh tranh như thế nào trong các mô-đun ánh sáng? Châu á không có khả năng sản xuất công nghệ silicon? A: hiện nay trong cuộc cạnh tranh công nghệ silicon, các nhà sản xuất hàng đầu là grogyfoot, tháp, samsung và Intel. Trong nước hiện không có khả năng sản xuất khối lượng, trung tâm quốc tế và các doanh nghiệp khác của trung quốc trong việc phát triển công nghệ silicon quang, nhưng không đạt được sản xuất khối lượng cùng một lúc. Q: trong lĩnh vực mô-đun ánh sáng, làm thế nào là sự thay đổi về nhu cầu và cơ hội của thị trường cho lập luận tiểu thuyết và bên đào tạo? A: năm nay, lĩnh vực toán học đang chuyển từ việc đào tạo bên sang lập luận, lập luận và huấn luyện thị trường cộng hưởng. Dự kiến vào năm 2025, bên lý luận có thể có một sự tăng trưởng bi quan hơn, dựa trên Google, hàng hoá có thể được cải thiện đáng kể. Mặc dù đào tạo cơ bản đã được hoàn thành thành công, nhưng trong lĩnh vực công nghiệp phân phối như sản xuất bán dẫn, dược phẩm, sinh học và các lĩnh vực khác, và robot nhà máy, đào tạo sâu hơn và tối ưu hóa mô hình sẽ vẫn ổn định, thúc đẩy sự phát triển của đào tạo và lý luận cùng tồn tại, nhưng tỷ lệ lý luận sẽ dần dần tăng lên. Trong khi đó, tập trung cao vào việc kinh doanh và các trường hợp thuận lợi của công nghệ