原创 3 分鐘瞭解 NVIDIA 新出的 H200

英偉達在 2023 年全球超算大會上發佈了備受矚目的新一代 AI 芯片——H200 Tensor Core GPU。相較於上一代產品 H100,H200 在性能上實現了近一倍的提升,內存容量翻倍,帶寬也顯著增加。 據英偉達稱,H200 被冠

原创 深入瞭解浮點運算——CPU 和 GPU 算力是如何計算的

隨着國家大力發展數字經濟,算力的提升和普惠變得越來越重要。在數字化時代,算力已成爲推動科技發展和創新的關鍵要素。它不僅僅是衡量計算機處理速度的標準,還涉及計算機系統或設備執行計算任務的能力、數據處理能力以及解決複雜計算問題的能力。那麼算力到

原创 加速計算,爲何會成爲 AI 時代的計算力“新寵”

隨着科技的發展,處理大量數據和進行復雜計算的需求越來越高,人工智能、大數據和物聯網等領域更是如此,傳統的計算方式已經無法滿足這些需求。因此,加速計算作爲一種現代計算方式,成了必要的手段。加速計算具有前所未有的處理能力,在雲基礎設施中發揮着核

原创 NVIDIA RTX4090,你能用它做什麼?

都說男生是世界上最簡單的動物,爲什麼呢?舉個例子,你要給女朋友送禮,你可以選擇包、口紅、護膚品、化妝品等,而包的品牌和樣式、口紅的色號等足以讓你挑得眼花繚亂。而男生不一樣,如果女生選擇給男生送禮,我相信一塊 RTX4090 就足以讓他高興得

原创 3 分鐘看完 NVIDIA GPU 架構及演進

近期隨着 AI 市場的爆發式增長,作爲 AI 背後技術的核心之一 GPU(圖形處理器)的價格也水漲船高。GPU 在人工智能中發揮着巨大的重要,特別是在計算和數據處理方面。目前生產 GPU 主流廠商其實並不多,主要就是 NVIDIA、AMD、

原创 聊聊 GPU 產品選型那些事

隨着人工智能的飛速崛起,隨之而來的是算力需求的指數級增加,CPU 已經不足以滿足深度學習、大模型計算等場景的海量數據處理需求。GPU 作爲一種強大的計算工具,無論是高性能計算、圖形渲染還是機器學習領域,在各個領域展現出了巨大的潛力和應用前景

原创 巔峯對決:英偉達 V100、A100/800、H100/800 GPU 對比

近期,不論是國外的 ChatGPT,還是國內諸多的大模型,讓 AIGC 的市場一片爆火。而在 AIGC 的種種智能表現背後,均來自於堪稱天文數字的算力支持。以 ChatGPT 爲例,據微軟高管透露,爲 ChatGPT 提供算力支持的 AI

原创 InfiniBand 的前世今生

今年,以 ChatGPT 爲代表的 AI 大模型強勢崛起,而 ChatGPT 所使用的網絡,正是 InfiniBand,這也讓 InfiniBand 大火了起來。那麼,到底什麼是 InfiniBand 呢?下面,我們就來帶你深入瞭解 Inf

原创 揭祕神祕的字符串匹配工具——正則表達式

正則表達式又稱規則表達式(Regular Expression,在代碼中常簡寫爲 regex、regexp 或 RE),是一種用於匹配、查找、替換文本的強大工具。它能夠以特定的模式匹配字符串,從而實現自動化文本處理。在許多編程語言中,正則表

原创 深入瞭解 GPU 互聯技術——NVLINK

隨着人工智能和圖形處理需求的不斷增長,多 GPU 並行計算已成爲一種趨勢。對於多 GPU 系統而言,一個關鍵的挑戰是如何實現 GPU 之間的高速數據傳輸和協同工作。然而,傳統的 PCIe 總線由於帶寬限制和延遲問題,已無法滿足 GPU 之間

原创 各快 100 倍?4G、5G、6G 相差這麼多嗎

二狗子今天晚上有點 emo,爲什麼呢? 原來是二狗子心心念很久的一個手游上線了,二狗子興沖沖地下載了 40 多分鐘,終於下載完了遊戲。結果打開遊戲一看,發現遊戲內部的更新寫着預計 30 分鐘完成更新。這就把二狗子搞得 emo 了。 二狗子突

原创 從駕考科目二到自動駕駛,聊聊GPU爲什麼對自動駕駛很重要

“下一個項目,坡道起步。” …… “考試不合格,請將車子開到起點,重新驗證考試。你的扣分項是:起步時間超30秒:扣100分。行駛過程中車輪軋到邊線:扣100分。” 想必經歷過駕駛證考試的同學,對科目二的坡道起步都有說不清道不明的情感。我在坡

原创 聊透 GPU 通信技術——GPU Direct、NVLink、RDMA

最近人工智能大火,AI 應用所涉及的技術能力包括語音、圖像、視頻、NLP 等多方面,而這些都需要強大的計算資源支持。AI 技術對算力的需求是非常龐大的,雖然 GPU 的計算能力在持續提升,但是對於 AI 來說,單卡的計算能力就算再強,也是有

原创 這個 AI 機器人會懟人,它是怎麼做到的?

近期,機器人“Ameca”接入了 Stable Diffusion,它一邊與旁邊的人類工程師談笑風生,一邊熟練地用馬克筆在白板上畫出一隻簡筆的貓,最後還在白板右下角簽名。 當 Ameca 詢問工程師是否對它的作品是否滿意時,工程師回答“這

原创 淺談 Linux 下 vim 的使用

Vim 是從 vi 發展出來的一個文本編輯器,其代碼補全、編譯及錯誤跳轉等方便編程的功能特別豐富,在程序員中被廣泛使用。 Vi 是老式的字處理器,功能雖然已經很齊全了,但還有可以進步的地方。Vim 可以說是程序開發者的一項很好用的工具。對於