Recent Posts

科技情報站|晶片原料告急牽動硬件市場,AI情感連結考驗科技倫理

科技情報站|晶片原料告急牽動硬件市場,AI情感連結考驗科技倫理 封面圖片 | 圖片來源:Photo by woodleywonderworks via Openverse (CC BY 2.0)

全球地緣政治緊張與供應鏈受壓,導致晶片製造核心原料成本飆升,預示硬件產品將面臨漲價潮。另一邊廂,AI技術發展催生「失戀潮」,用戶因AI伴侶更新而情感受損,揭示科技倫理與用戶情感連結新挑戰。香港讀者與企業將同時面對硬件成本與AI應用的人性化…

Read More »

科技情報站|Samsung 新機『私隱屏』有幾破格?MTR 荃灣線新系統考驗港人?

科技情報站|Samsung 新機『私隱屏』有幾破格?MTR 荃灣線新系統考驗港人? 封面圖片 | 圖片來源:Photo by wuesti via Openverse (CC CC0 1.0)

Samsung S26 Ultra 搭載獨特私隱屏幕,但 Android 鍵盤表現仍惹爭議。香港方面,財庫局指中東局勢或引新資金,MTR 荃灣線新訊號系統卻有潛在故障。另有 GitHub 隱形惡意代碼攻擊,開發者需警惕。

Read More »

Continuous Batching|點樣減少 idle GPUs、壓低 AI inference 成本?

AI推理|Continuous Batching點樣扭轉GPU閒置困局,為AI應用慳錢提速? 封面圖片 | 圖片來源:Photo by Unknown creator via Openverse (CC CC0 1.0)

Continuous Batching 的重點,是把零散推理請求持續塞進正在運行的 batch,減少 idle GPUs,並同時壓低 AI inference latency 與成本。本文集中拆解它跟傳統 batching 差在哪,對 vLLM、SGLang 這類 LLM 推理框架有咩實際意義。

Read More »