在 NeuJeans 中,如何在保持隱私的同時,進一步提高私密推論的吞吐量和延遲?
在 NeuJeans 中，提高私密推論的吞吐量和降低延遲的關鍵在於其創新的 CinS 編碼和優化的運算流程。首先，CinS 編碼允許在同一個同態加密乘法中進行多次卷積運算，這樣可以顯著減少所需的同態操作數量，從而降低計算延遲。此外，NeuJeans 將卷積運算與同態加密的重置操作（即引導操作）進行融合，這樣可以在進行推論時同時完成數據的轉換，進一步減少了計算時間。
此外，NeuJeans 還針對不同類型的卷積操作（如下採樣卷積和深度卷積）設計了高效的執行流程，這些流程能夠減少昂貴的操作次數，從而提高整體的吞吐量。通過這些技術，NeuJeans 能夠在保持數據隱私的同時，實現快速的私密推論，並在實際應用中達到可接受的延遲。