Aunque no hay unanimidad al respecto, parece ser que el bong se inventó en África, más concretamente en una zona situada entre Etiopía y el lago Chad, ya que se han encontrado restos arqueológicos que así lo demuestran. Aunque estéticamente no se parecen mucho a los bongs de la actualidad, el funcionamiento de los bongs arcaicos encontrados es el mismo que el de los modernos, y ya por aquel entonces utilizaban agua para enfriar y filtrar el humo. Han encontrado bongs fabricados con calabazas, cocos, bambú, cuernos de animales o madera entre otros materiales, pero es posible que se utilizaran para fumar tabaco y otras plantas antes que para la marihuana.