Dataset Preview Go to dataset viewer
id (int)code (json)
0
[ "<s>", "package", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ";", "import", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "DefaultUiModule", ";", "import", "org", ".", "eclipse", ".", "ui", ".", "plugin", ".", "AbstractUIPlugin", ";", "@", "SuppressWarnings", "(", "\"all\"", ")", "public", "abstract", "class", "AbstractProcessorDslUiModule", "extends", "DefaultUiModule", "{", "public", "AbstractProcessorDslUiModule", "(", "AbstractUIPlugin", "plugin", ")", "{", "super", "(", "plugin", ")", ";", "}", "public", "com", ".", "google", ".", "inject", ".", "Provider", "<", "org", ".", "eclipse", ".", "xtext", ".", "resource", ".", "containers", ".", "IAllContainersState", ">", "provideIAllContainersState", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "shared", ".", "Access", ".", "getJavaProjectsState", "(", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "IProposalConflictHelper", ">", "bindIProposalConflictHelper", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "antlr", ".", "AntlrProposalConflictHelper", ".", "class", ";", "}", "public", "void", "configureHighlightingLexer", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "parser", ".", "antlr", ".", "Lexer", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "LexerUIBindings", ".", "HIGHLIGHTING", ")", ")", ".", "to", "(", "org", ".", "sqlproc", ".", "dsl", ".", "parser", ".", "antlr", ".", "internal", ".", "InternalProcessorDslLexer", ".", "class", ")", ";", "}", "public", "void", "configureHighlightingTokenDefProvider", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "parser", ".", "antlr", ".", "ITokenDefProvider", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "LexerUIBindings", ".", "HIGHLIGHTING", ")", ")", ".", "to", "(", "org", ".", "eclipse", ".", "xtext", ".", "parser", ".", "antlr", ".", "AntlrTokenDefProvider", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "IDependentElementsCalculator", ">", "bindIDependentElementsCalculator", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "impl", ".", "DefaultDependentElementsCalculator", ".", "class", ";", "}", "public", "void", "configureIResourceDescriptionsBuilderScope", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "resource", ".", "IResourceDescriptions", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "org", ".", "eclipse", ".", "xtext", ".", "resource", ".", "impl", ".", "ResourceDescriptionsProvider", ".", "NAMED_BUILDER_SCOPE", ")", ")", ".", "to", "(", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "clustering", ".", "CurrentDescriptions", ".", "ResourceSetAware", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "IXtextEditorCallback", ">", "bindIXtextEditorCallback", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "nature", ".", "NatureAddingEditorCallback", ".", "class", ";", "}", "public", "void", "configureIResourceDescriptionsPersisted", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "resource", ".", "IResourceDescriptions", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "impl", ".", "PersistentDataAwareDirtyResource", ".", "PERSISTED_DESCRIPTIONS", ")", ")", ".", "to", "(", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "builderState", ".", "IBuilderState", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "DocumentBasedDirtyResource", ">", "bindDocumentBasedDirtyResource", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "impl", ".", "PersistentDataAwareDirtyResource", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "IXtextBuilderParticipant", ">", "bindIXtextBuilderParticipant", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "BuilderParticipant", ".", "class", ";", "}", "public", "org", ".", "eclipse", ".", "core", ".", "resources", ".", "IWorkspaceRoot", "bindIWorkspaceRootToInstance", "(", ")", "{", "return", "org", ".", "eclipse", ".", "core", ".", "resources", ".", "ResourcesPlugin", ".", "getWorkspace", "(", ")", ".", "getRoot", "(", ")", ";", "}", "public", "void", "configureBuilderPreferenceStoreInitializer", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "preferences", ".", "IPreferenceStoreInitializer", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "\"\"", ")", ")", ".", "to", "(", "org", ".", "eclipse", ".", "xtext", ".", "builder", ".", "preferences", ".", "BuilderPreferenceAccess", ".", "Initializer", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "jface", ".", "viewers", ".", "ILabelProvider", ">", "bindILabelProvider", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "labeling", ".", "ProcessorDslLabelProvider", ".", "class", ";", "}", "public", "void", "configureResourceUIServiceLabelProvider", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "jface", ".", "viewers", ".", "ILabelProvider", ".", "class", ")", ".", "annotatedWith", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "resource", ".", "ResourceServiceDescriptionLabelProvider", ".", "class", ")", ".", "to", "(", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "labeling", ".", "ProcessorDslDescriptionLabelProvider", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "outline", ".", "IOutlineTreeProvider", ">", "bindIOutlineTreeProvider", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "outline", ".", "ProcessorDslOutlineTreeProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "outline", ".", "impl", ".", "IOutlineTreeStructureProvider", ">", "bindIOutlineTreeStructureProvider", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "outline", ".", "ProcessorDslOutlineTreeProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "quickfix", ".", "IssueResolutionProvider", ">", "bindIssueResolutionProvider", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "quickfix", ".", "ProcessorDslQuickfixProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "IContentProposalProvider", ">", "bindIContentProposalProvider", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "ProcessorDslProposalProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "ContentAssistContext", ".", "Factory", ">", "bindContentAssistContext$Factory", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "antlr", ".", "ParserBasedContentAssistContextFactory", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "antlr", ".", "IContentAssistParser", ">", "bindIContentAssistParser", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "antlr", ".", "ProcessorDslParser", ".", "class", ";", "}", "public", "void", "configureContentAssistLexerProvider", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "antlr", ".", "internal", ".", "InternalProcessorDslLexer", ".", "class", ")", ".", "toProvider", "(", "org", ".", "eclipse", ".", "xtext", ".", "parser", ".", "antlr", ".", "LexerProvider", ".", "create", "(", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "antlr", ".", "internal", ".", "InternalProcessorDslLexer", ".", "class", ")", ")", ";", "}", "public", "void", "configureContentAssistLexer", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "antlr", ".", "internal", ".", "Lexer", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "LexerUIBindings", ".", "CONTENT_ASSIST", ")", ")", ".", "to", "(", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "antlr", ".", "internal", ".", "InternalProcessorDslLexer", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "IRenameStrategy", ">", "bindIRenameStrategy", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "impl", ".", "DefaultRenameStrategy", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "IReferenceUpdater", ">", "bindIReferenceUpdater", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "impl", ".", "DefaultReferenceUpdater", ".", "class", ";", "}", "public", "void", "configureIPreferenceStoreInitializer", "(", "com", ".", "google", ".", "inject", ".", "Binder", "binder", ")", "{", "binder", ".", "bind", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "preferences", ".", "IPreferenceStoreInitializer", ".", "class", ")", ".", "annotatedWith", "(", "com", ".", "google", ".", "inject", ".", "name", ".", "Names", ".", "named", "(", "\"\"", ")", ")", ".", "to", "(", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "ui", ".", "RefactoringPreferences", ".", "Initializer", ".", "class", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "IRenameRefactoringProvider", ">", "bindIRenameRefactoringProvider", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "impl", ".", "DefaultRenameRefactoringProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "ui", ".", "IRenameSupport", ".", "Factory", ">", "bindIRenameSupport$Factory", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "ui", ".", "DefaultRenameSupport", ".", "Factory", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "ui", ".", "IRenameElementHandler", ">", "bindIRenameElementHandler", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "ui", ".", "DefaultRenameElementHandler", ".", "class", ";", "}", "public", "java", ".", "lang", ".", "ClassLoader", "bindClassLoaderToInstance", "(", ")", "{", "return", "getClass", "(", ")", ".", "getClassLoader", "(", ")", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "access", ".", "IJvmTypeProvider", ".", "Factory", ">", "bindIJvmTypeProvider$Factory", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "access", ".", "jdt", ".", "JdtTypeProviderFactory", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "AbstractTypeScopeProvider", ">", "bindAbstractTypeScopeProvider", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "JdtBasedSimpleTypeScopeProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "ITypesProposalProvider", ">", "bindITypesProposalProvider", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "JdtTypesProposalProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "access", ".", "jdt", ".", "IJavaProjectProvider", ">", "bindIJavaProjectProvider", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "XtextResourceSetBasedProjectProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "hyperlinking", ".", "IHyperlinkHelper", ">", "bindIHyperlinkHelper", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "TypeAwareHyperlinkHelper", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "PrefixMatcher", ">", "bindPrefixMatcher", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "FQNPrefixMatcher", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "contentassist", ".", "AbstractJavaBasedContentProposalProvider", ".", "ReferenceProposalCreator", ">", "bindAbstractJavaBasedContentProposalProvider$ReferenceProposalCreator", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "TypeAwareReferenceProposalCreator", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "IValidationJobScheduler", ">", "bindIValidationJobScheduler", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "xtext", ".", "ui", ".", "JdtValidationJobScheduler", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "refactoring", ".", "impl", ".", "RefactoringResourceSetProvider", ">", "bindRefactoringResourceSetProvider", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "ui", ".", "refactoring", ".", "JvmRefactoringResourceSetProvider", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "ui", ".", "query", ".", "IJavaSearchParticipation", ">", "bindIJavaSearchParticipation", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "common", ".", "types", ".", "ui", ".", "query", ".", "IJavaSearchParticipation", ".", "Yes", ".", "class", ";", "}", "public", "com", ".", "google", ".", "inject", ".", "Provider", "<", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "preferences", ".", "TemplatesLanguageConfiguration", ">", "provideTemplatesLanguageConfiguration", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "AccessibleCodetemplatesActivator", ".", "getTemplatesLanguageConfigurationProvider", "(", ")", ";", "}", "public", "com", ".", "google", ".", "inject", ".", "Provider", "<", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "registry", ".", "LanguageRegistry", ">", "provideLanguageRegistry", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "AccessibleCodetemplatesActivator", ".", "getLanguageRegistry", "(", ")", ";", "}", "@", "org", ".", "eclipse", ".", "xtext", ".", "service", ".", "SingletonBinding", "(", "eager", "=", "true", ")", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "registry", ".", "LanguageRegistrar", ">", "bindLanguageRegistrar", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "registry", ".", "LanguageRegistrar", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "editor", ".", "templates", ".", "XtextTemplatePreferencePage", ">", "bindXtextTemplatePreferencePage", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "preferences", ".", "AdvancedTemplatesPreferencePage", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "codetemplates", ".", "ui", ".", "partialEditing", ".", "IPartialContentAssistParser", ">", "bindIPartialContentAssistParser", "(", ")", "{", "return", "org", ".", "sqlproc", ".", "dsl", ".", "ui", ".", "contentassist", ".", "antlr", ".", "PartialProcessorDslContentAssistParser", ".", "class", ";", "}", "public", "Class", "<", "?", "extends", "org", ".", "eclipse", ".", "compare", ".", "IViewerCreator", ">", "bindIViewerCreator", "(", ")", "{", "return", "org", ".", "eclipse", ".", "xtext", ".", "ui", ".", "compare", ".", "DefaultViewerCreator", ".", "class", ";", "}", "}", "</s>" ]
1
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","contentassist",".","antlr",".","interna (...TRUNCATED)
2
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","contentassist",".","antlr",".","interna (...TRUNCATED)
3
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","contentassist",".","antlr",";","import" (...TRUNCATED)
4
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","contentassist",".","antlr",";","import" (...TRUNCATED)
5
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","contentassist",";","import","org","."," (...TRUNCATED)
6
["<s>","package","org",".","sqlproc",".","dsl",".","ui",";","import","org",".","eclipse",".","xtext" (...TRUNCATED)
7
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","internal",";","import","java",".","util (...TRUNCATED)
8
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","quickfix",";","import","org",".","eclip (...TRUNCATED)
9
["<s>","package","org",".","sqlproc",".","dsl",".","ui",".","syntaxcoloring",";","import","org",".", (...TRUNCATED)

Dataset Card for "code_x_glue_cc_code_completion_token"

Dataset Summary

CodeXGLUE CodeCompletion-token dataset, available at https://github.com/microsoft/CodeXGLUE/tree/main/Code-Code/CodeCompletion-token

Predict next code token given context of previous tokens. Models are evaluated by token level accuracy. Code completion is a one of the most widely used features in software development through IDEs. An effective code completion tool could improve software developers' productivity. We provide code completion evaluation tasks in two granularities -- token level and line level. Here we introduce token level code completion. Token level task is analogous to language modeling. Models should have be able to predict the next token in arbitary types.

Supported Tasks and Leaderboards

  • language-modeling: The dataset can be used to train a model for completing single code tokens.

Languages

  • Java programming language
  • Python programming language

Dataset Structure

Data Instances

java

An example of 'test' looks as follows.

{
    "code": ["<s>", "package", "org", ".", "vaadin", ".", "teemu", ".", "clara", ".", "demo", ";", "import", "java", ".", "io", ".", "BufferedReader", ";", "import", "java", ".", "io", ".", "ByteArrayInputStream", ";", "import", "java", ".", "io", ".", "IOException", ";", "import", "java", ".", "io", ".", "InputStreamReader", ";", "import", "org", ".", "vaadin", ".", "teemu", ".", "clara", ".", "Clara", ";", "import", "org", ".", "vaadin", ".", "teemu", ".", "clara", ".", "inflater", ".", "LayoutInflaterException", ";", "import", "com", ".", "vaadin", ".", "Application", ";", "import", "com", ".", "vaadin", ".", "terminal", ".", "ThemeResource", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Button", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Button", ".", "ClickEvent", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Component", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Embedded", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "HorizontalLayout", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "HorizontalSplitPanel", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "TextArea", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "VerticalLayout", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Window", ";", "import", "com", ".", "vaadin", ".", "ui", ".", "Window", ".", "Notification", ";", "@", "SuppressWarnings", "(", "\"serial\"", ")", "public", "class", "DemoApplication", "extends", "Application", "{", "private", "DemoController", "controller", ";", "private", "TextArea", "xmlArea", ";", "private", "HorizontalSplitPanel", "split", "=", "new", "HorizontalSplitPanel", "(", ")", ";", "private", "Window", "mainWindow", ";", "@", "Override", "public", "void", "init", "(", ")", "{", "setTheme", "(", "\"clara\"", ")", ";", "setMainWindow", "(", "mainWindow", "=", "new", "Window", "(", ")", ")", ";", "controller", "=", "new", "DemoController", "(", "mainWindow", ")", ";", "mainWindow", ".", "setContent", "(", "split", ")", ";", "VerticalLayout", "editor", "=", "new", "VerticalLayout", "(", ")", ";", "editor", ".", "setSpacing", "(", "true", ")", ";", "editor", ".", "setMargin", "(", "false", ",", "false", ",", "false", ",", "true", ")", ";", "editor", ".", "setHeight", "(", "\"100%\"", ")", ";", "editor", ".", "addComponent", "(", "xmlArea", "=", "createXmlArea", "(", ")", ")", ";", "editor", ".", "setExpandRatio", "(", "xmlArea", ",", "1.0f", ")", ";", "editor", ".", "addComponent", "(", "createUpdateButton", "(", ")", ")", ";", "HorizontalLayout", "wrapper", "=", "new", "HorizontalLayout", "(", ")", ";", "wrapper", ".", "setMargin", "(", "true", ")", ";", "wrapper", ".", "setSizeFull", "(", ")", ";", "wrapper", ".", "addComponent", "(", "createLogo", "(", ")", ")", ";", "wrapper", ".", "addComponent", "(", "editor", ")", ";", "wrapper", ".", "setExpandRatio", "(", "editor", ",", "1.0f", ")", ";", "split", ".", "setFirstComponent", "(", "wrapper", ")", ";", "updateLayout", "(", ")", ";", "}", "private", "Component", "createLogo", "(", ")", "{", "Embedded", "logo", "=", "new", "Embedded", "(", "null", ",", "new", "ThemeResource", "(", "\"\"", ")", ")", ";", "logo", ".", "setHeight", "(", "\"90px\"", ")", ";", "logo", ".", "setWidth", "(", "\"90px\"", ")", ";", "return", "logo", ";", "}", "private", "TextArea", "createXmlArea", "(", ")", "{", "TextArea", "area", "=", "new", "TextArea", "(", ")", ";", "area", ".", "setStyleName", "(", "\"xml-area\"", ")", ";", "area", ".", "setSizeFull", "(", ")", ";", "area", ".", "setValue", "(", "readStartingPoint", "(", ")", ")", ";", "return", "area", ";", "}", "private", "Button", "createUpdateButton", "(", ")", "{", "return", "new", "Button", "(", "\"Update\"", ",", "new", "Button", ".", "ClickListener", "(", ")", "{", "public", "void", "buttonClick", "(", "ClickEvent", "event", ")", "{", "updateLayout", "(", ")", ";", "}", "}", ")", ";", "}", "private", "String", "readStartingPoint", "(", ")", "{", "BufferedReader", "reader", "=", "null", ";", "try", "{", "reader", "=", "new", "BufferedReader", "(", "new", "InputStreamReader", "(", "getClass", "(", ")", ".", "getClassLoader", "(", ")", ".", "getResourceAsStream", "(", "\"\"", ")", ")", ")", ";", "StringBuilder", "xml", "=", "new", "StringBuilder", "(", ")", ";", "String", "line", ";", "while", "(", "(", "line", "=", "reader", ".", "readLine", "(", ")", ")", "!=", "null", ")", "{", "xml", ".", "append", "(", "line", ")", ";", "xml", ".", "append", "(", "\"n\"", ")", ";", "}", "return", "xml", ".", "toString", "(", ")", ";", "}", "catch", "(", "IOException", "e", ")", "{", "e", ".", "printStackTrace", "(", ")", ";", "}", "finally", "{", "if", "(", "reader", "!=", "null", ")", "{", "try", "{", "reader", ".", "close", "(", ")", ";", "}", "catch", "(", "IOException", "e", ")", "{", "e", ".", "printStackTrace", "(", ")", ";", "}", "}", "}", "return", "null", ";", "}", "private", "void", "updateLayout", "(", ")", "{", "try", "{", "Component", "c", "=", "Clara", ".", "create", "(", "new", "ByteArrayInputStream", "(", "xmlArea", ".", "getValue", "(", ")", ".", "toString", "(", ")", ".", "getBytes", "(", ")", ")", ",", "controller", ")", ";", "split", ".", "replaceComponent", "(", "split", ".", "getSecondComponent", "(", ")", ",", "c", ")", ";", "}", "catch", "(", "LayoutInflaterException", "e", ")", "{", "mainWindow", ".", "showNotification", "(", "e", ".", "getMessage", "(", ")", ",", "Notification", ".", "TYPE_ERROR_MESSAGE", ")", ";", "}", "}", "}", "</s>"], 
    "id": 0
}

python

An example of 'train' looks as follows.

{
    "code": ["<s>", "from", "bootstrap", "import", "Bootstrap", "<EOL>", "from", "fund", "import", "InstantPaymentNotificationHandler", "<EOL>", "from", "fund", "import", "ThankYouHandler", "<EOL>", "from", "view", "import", "*", "<EOL>", "mapping", "=", "[", "(", "<EOL>", "r'/'", ",", "<EOL>", "Index", "<EOL>", ")", ",", "(", "<EOL>", "r'/ipn'", ",", "<EOL>", "InstantPaymentNotificationHandler", "<EOL>", ")", ",", "(", "<EOL>", "r'/thank-you'", ",", "<EOL>", "ThankYouHandler", "<EOL>", ")", ",", "(", "<EOL>", "r'/about\\/?'", ",", "<EOL>", "About", "<EOL>", ")", ",", "(", "<EOL>", "r'/guide\\/?'", ",", "<EOL>", "Guide", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Download", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Standards", "<EOL>", ")", ",", "(", "<EOL>", "r'/community\\/?'", ",", "<EOL>", "Community", "<EOL>", ")", ",", "(", "<EOL>", "r'/news\\/?'", ",", "<EOL>", "News", "<EOL>", ")", ",", "(", "<EOL>", "r'/support\\/?'", ",", "<EOL>", "Support", "<EOL>", ")", ",", "(", "<EOL>", "r'/contact\\/?'", ",", "<EOL>", "Contact", "<EOL>", ")", ",", "(", "<EOL>", "r'/press\\/?'", ",", "<EOL>", "Press", "<EOL>", ")", ",", "(", "<EOL>", "r'/legal/terms'", ",", "<EOL>", "Terms", "<EOL>", ")", ",", "(", "<EOL>", "r'/library\\/?'", ",", "<EOL>", "Library", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Library", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Library", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Users", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "User", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Design", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Design", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Design", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Design", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Design", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "RedirectSuccess", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "RedirectError", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "RedirectAfterDelete", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Moderate", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Bootstrap", "<EOL>", ")", ",", "(", "<EOL>", "r'/activity'", ",", "<EOL>", "ActivityScreen", "<EOL>", ")", ",", "(", "<EOL>", "r'/txns'", ",", "<EOL>", "TxnList", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Base64Blob", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "Base64Blob", "<EOL>", ")", ",", "(", "<EOL>", "r''", ",", "<EOL>", "MessageStrings", "<EOL>", ")", ",", "(", "<EOL>", "r'/.*'", ",", "<EOL>", "NotFound", "<EOL>", ")", "<EOL>", "]", "</s>"], 
    "id": 0, 
    "path": "00/wikihouse/urls.py\n"
}

Data Fields

In the following each data field in go is explained for each config. The data fields are the same among all splits.

java

field name type description
id int32 Index of the sample
code Sequence[string] Code Tokens

python

field name type description
id int32 Index of the sample
path string Original path in the dataset
code Sequence[string] Code Tokens

Data Splits

java

train validation test
java 12934 7189 8268

python

train test
python 100000 50000

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

https://github.com/microsoft, https://github.com/madlag

Licensing Information

Computational Use of Data Agreement (C-UDA) License.

Citation Information

@article{raychev2016probabilistic,
      title={Probabilistic Model for Code with Decision Trees},
      author={Raychev, Veselin and Bielik, Pavol and Vechev, Martin},
      journal={ACM SIGPLAN Notices},
      pages={731--747},
      year={2016},
      publisher={ACM New York, NY, USA}
    }
    @inproceedings{allamanis2013mining,
      title={Mining Source Code Repositories at Massive Scale using Language Modeling},
      author={Allamanis, Miltiadis and Sutton, Charles},
      booktitle={2013 10th Working Conference on Mining Software Repositories (MSR)},
      pages={207--216},
      year={2013},
      organization={IEEE}
    }

Contributions

Thanks to @madlag (and partly also @ncoop57) for adding this dataset.

Update on GitHub