उसी वर्ष , बुककॉर्पस और अंग्रेजी विकिपीडिया के संयोजन , कुल 3.3 बिलियन शब्दों का उपयोग BERT के लिए एक प्रशिक्षण डेटासेट के रूप में किया गया था ।
Entity: विकिपीडिया — Type: /art, /website, /art/written_work