Օստրոգրադսկին աշխատեց մաթեմատիկական անալիզի, տեսական մեխանիկայի, մաթեմատիկական ֆիզիկայի բնագավառներում։ Գրել է մի շարք աշխատանքներ թվերի տեսությունից, հանրահաշվից, հավանականությունների տեսությունից։ Նրան է պատկանում պինդ մարմններում և հեղուկներում ջերմության տարածման գիտական տեսությունը։ Նա ստացավ առնչություն, որը թույլ է տալիս մեկ մասնակվոր՝ երկրորդ կարգի գծային համասեռ դիֆերենցիալ հավասարման ոչ տրիվիալ լուծումով գտնել նրա ընդհանուր լուծումը։ Այդ առնչությունը կոչվում է Լիուվիլ-Օստրոգրադսկու բանաձև։ Հայտնի է նաև Օստրոգրադսկու մեթոդը ռացիոնալ ֆունկցիաների ինտեգրման համար (1844)։ Բացի գիտական գործունեությունից Օստրոգրադսկին գրել է նաև մաթեմատիկայի բազմաթիվ դասագրքեր։ Իր կյանքի վերջին տարիներին նա հրապարակեց դինամիկայի հավասարումների ինտեգրման մասին իր աշխատութունը։ Նրա աշխատանքները շարունակեցին Ն.Դ.Բրաշմանը և Ն.Ե.Ժուկովսկին։