土耳其大使开始兼任驻以色列大使。1955年，日本在特拉维夫开设公使馆。1963年，两国关系升格为大使级关系。以色列政府于1985年颁发国际义人予杉原千亩，他在第二次世界大战期间担任日本驻立陶宛代领事时，发放上千张过境签证给犹太人，使不少犹太人得以免于遭纳粹德国迫害。2011年3月11日，日本发生东日本大震灾，以色列是首个派出医疗支援队的国家。以色列在日本东京都的千代田区二番町设有大使馆，2015年11月起在大坂府大坂市的梅田设有西日本以色列贸易事务所；日本在以色列的台拉维夫设有大使馆。据2014年6月时