Jamal Mahmoud, 21 år, dog i fängelset i London på tisdag. Två fångar i åldern 34 och 26 år har gripits misstänkt för mord.
BBC News förstår att vapnet som användes var en "jaktkniv".
Motivet är ännu inte klart, även om påståenden om en tvist mellan gäng eller narkotikaskulder håller på att undersökas.
Det är förstått att knivhuggen hände i en fängelseflygel och interner flyttades sedan in i fängelsets träningsgård, enligt BBC: s Home Affairs Correspondent Danny Shaw.
Han sa att en fängelsekälla hade berättat för BBC att kniven som användes i attacken hade återfunnits, och beskrev den som "större än en Bowiekniv men mindre än en machete".
Vapnet var inte improviserat, sa källan.
Mahmoud anfölls på femte våningen vid landningen av en av fängelsevingarna, innan han kastades över räckena och föll omkring 30 meter (9 meter).
Mahmoud, från Enfield i norra London, fängslades i juli för att han hjälpte till att gömma ett maskingevär.
En vän till den döde, Danny Rynne, en byggnadsställningare från Enfield, beskrev honom som "liten" och "placid".
"Han har en flickvän som just fått ett barn som föddes för två veckor sedan. Det är synd vad som hände. Jag vet inte så mycket om vad det handlar om, men det är en chock för alla, sa Mr Rynne.
Hur farliga är våra fängelser?
Fängelseguvernörer Association (PGA) sade interner i Pentonville levde i "kvalitativa och brutala förhållanden".
"Om ett samhälle bedöms efter hur det behandlar dem som det låser upp, då är vi på en mycket mörk plats", sade det.
22,195
Överfall
Denna förordning är till alla delar bindande och direkt tillämplig i alla medlemsstater.
Ökningen jämfört med samma period föregående år
2.953 Allvarliga övergrepp
5.423 Angrepp på fängelsepersonal
5 synbara mord (i 12 månader till juni 2016)
Föreningen har förnyat uppmaningarna till en offentlig utredning mitt i vad den sade var en "oförutsedd" ökning av fängelsevåld och självmord.
Som svar på dessa kommentarer sade en talesman för justitieministeriet (MoJ) att justitiesekreteraren hade klargjort att säkerheten i fängelserna var "grundläggande för att vårt rättssystem skulle fungera väl och en viktig del av våra reformplaner".
"Vi är fast beslutna att ta itu med den betydande ökningen av våld, självskador och självförvållade dödsfall i våra fängelser", tillade talesmannen.
MoJ sade åtgärder skulle omfatta att spendera en extra Â€14m i 10 fängelser och öka personalnivåer med mer än 400 fängelse officerare.
Analys: BBC Inrikes frågor Korrespondent Danny Shaw
Pentonvilles guvernör Kevin Reilly har noterat att de senaste veckorna har människor känt sig oroliga för våld i fängelset.
I ett internt nyhetsbrev, sett av BBC News, sade Reilly att minska våldet var en av hans "de fem främsta prioriteringarna".
Han sade att även om våldsdåden hade minskat något under månaden, förblev människor oroade.
I juli Pentonville Independent Monitoring Board sade regeringen bör "knacka ner" eller "brådskande uppgradera" det 174-åriga fängelset.
Styrelsen sade att fängelset var "decrepit" och skyllde den tidigare juridiska högspice för att köra en olaglig ekonomi som i sin tur hade lett till våld, självskada och mobbning.
I sin årsrapport om Pentonville sade styrelsen att det förekom 16 våldsdåd varje vecka, men antalet hade minskat år efter år.
Pentonvilles död är det tredje mordet i år i fängelser i England och Wales och det elfte sedan början av 2015.
Besökare som köade för att se vänner och släktingar inne i fängelset talade om sina säkerhetsproblem.
"Min son är 21. Jag har inte känt likadant sedan jag hörde nyheterna, sa en kvinna.
"Som en mor alla säger till dig vet du åtminstone var han är och han är säker - men faktiskt är han inte säker, eller hur?
"Oavsett ålder eller vad de har gjort, förtjänar ingen att dö i fängelset."
"Det som har hänt är fruktansvärt", tidigare fängelseminister Andrew Selous berättade BBC Radio 4's Today program.
"Jag har träffat föräldrarna till de fångar som har mördats och det är fruktansvärt och min djupaste sympati går ut till alla de drabbade.
"Regeringen får absolut allvaret i våldsfrågorna, det görs en enorm mängd arbete för att minska våldet."
Chefen för Prison Reform Trust, Peter Dawson, krävde att färre människor skulle skickas i fängelse för att "minska trycket" på fängelserna.
"Victorianerna trodde [Pentonville] kunde rymma 900 fångar... vi säger att det kan rymma upp till 1.300.
"Det innebär i praktiken att nästan alla i ett fängelse som Pentonville kan förvänta sig att dela en cell som viktorianerna tyckte var lämplig för en person."
Inga fängelseofficerare anses ha skadats i attacken, sade Fängelseofficers' Association.
I ett uttalande sade facket att "den aldrig tidigare skådade ökningen av våldet i alla våra fängelser får inte underskattas".
Den tillade: "Vi ber nu justitieministeriet att till fullo undersöka denna fråga och de underliggande problemen inom fängelseboet."
I juli 2015 sade den dåvarande justitieministern Michael Gove: "Pentonville är det mest dramatiska exemplet på misslyckanden i fängelset, men dess problem, medan mer akuta än någon annanstans, är mycket långt ifrån unika,"
En talesman för fångvården sade: " Polisen utreder en incident på HMP Pentonville. Det skulle vara olämpligt att kommentera ytterligare i detta skede."
Pentonvillefängelset
En fånge har dött och två andra skadades allvarligt i en knivhuggning på HMP Pentonville, vilket leder till påståenden fängelsesystemet är på en "mörk plats".