Datasets:

google

/

code_x_glue_tc_nl_code_search_adv

like 5

[ "def", "_read_bin", "(", "self", ",", "stream", ",", "byte_order", ")", ":", "try", ":", "return", "_read_array", "(", "stream", ",", "self", ".", "dtype", "(", "byte_order", ")", ",", "1", ")", "[", "0", "]", "except", "IndexError", ":", "raise", "StopIteration" ]

[ "Read", "data", "from", "a", "binary", "stream", ".", "Raise", "StopIteration", "if", "the", "property", "could", "not", "be", "read", "." ]

[ "def", "color_stream_st", "(", "istream", "=", "sys", ".", "stdin", ",", "save_palette", "=", "False", ",", "*", "*", "kwargs", ")", ":", "for", "line", "in", "istream", ":", "filename", "=", "line", ".", "strip", "(", ")", "try", ":", "palette", "=", "extract_colors", "(", "filename", ",", "*", "*", "kwargs", ")", "except", "Exception", "as", "e", ":", "print", "(", "filename", ",", "e", ",", "file", "=", "sys", ".", "stderr", ")", "continue", "print_colors", "(", "filename", ",", "palette", ")", "if", "save_palette", ":", "save_palette_as_image", "(", "filename", ",", "palette", ")" ]

[ "Read", "filenames", "from", "the", "input", "stream", "and", "detect", "their", "palette", "." ]

[ "def", "color_stream_mt", "(", "istream", "=", "sys", ".", "stdin", ",", "n", "=", "config", ".", "N_PROCESSES", ",", "*", "*", "kwargs", ")", ":", "queue", "=", "multiprocessing", ".", "Queue", "(", "1000", ")", "lock", "=", "multiprocessing", ".", "Lock", "(", ")", "pool", "=", "[", "multiprocessing", ".", "Process", "(", "target", "=", "color_process", ",", "args", "=", "(", "queue", ",", "lock", ")", ",", "kwargs", "=", "kwargs", ")", "for", "i", "in", "range", "(", "n", ")", "]", "for", "p", "in", "pool", ":", "p", ".", "start", "(", ")", "block", "=", "[", "]", "for", "line", "in", "istream", ":", "block", ".", "append", "(", "line", ".", "strip", "(", ")", ")", "if", "len", "(", "block", ")", "==", "config", ".", "BLOCK_SIZE", ":", "queue", ".", "put", "(", "block", ")", "block", "=", "[", "]", "if", "block", ":", "queue", ".", "put", "(", "block", ")", "for", "i", "in", "range", "(", "n", ")", ":", "queue", ".", "put", "(", "config", ".", "SENTINEL", ")", "for", "p", "in", "pool", ":", "p", ".", "join", "(", ")" ]

[ "Read", "filenames", "from", "the", "input", "stream", "and", "detect", "their", "palette", "using", "multiple", "processes", "." ]

[ "def", "color_process", "(", "queue", ",", "lock", ")", ":", "while", "True", ":", "block", "=", "queue", ".", "get", "(", ")", "if", "block", "==", "config", ".", "SENTINEL", ":", "break", "for", "filename", "in", "block", ":", "try", ":", "palette", "=", "extract_colors", "(", "filename", ")", "except", ":", "# TODO: it's too broad exception.", "continue", "lock", ".", "acquire", "(", ")", "try", ":", "print_colors", "(", "filename", ",", "palette", ")", "finally", ":", "lock", ".", "release", "(", ")" ]

[ "Receive", "filenames", "and", "get", "the", "colors", "from", "their", "images", "." ]

[ "def", "extract_colors", "(", "filename_or_img", ",", "min_saturation", "=", "config", ".", "MIN_SATURATION", ",", "min_distance", "=", "config", ".", "MIN_DISTANCE", ",", "max_colors", "=", "config", ".", "MAX_COLORS", ",", "min_prominence", "=", "config", ".", "MIN_PROMINENCE", ",", "n_quantized", "=", "config", ".", "N_QUANTIZED", ")", ":", "if", "Image", ".", "isImageType", "(", "filename_or_img", ")", ":", "im", "=", "filename_or_img", "else", ":", "im", "=", "Image", ".", "open", "(", "filename_or_img", ")", "# get point color count", "if", "im", ".", "mode", "!=", "'RGB'", ":", "im", "=", "im", ".", "convert", "(", "'RGB'", ")", "im", "=", "autocrop", "(", "im", ",", "config", ".", "WHITE", ")", "# assume white box", "im", "=", "im", ".", "convert", "(", "'P'", ",", "palette", "=", "Image", ".", "ADAPTIVE", ",", "colors", "=", "n_quantized", ")", ".", "convert", "(", "'RGB'", ")", "dist", "=", "Counter", "(", "{", "color", ":", "count", "for", "count", ",", "color", "in", "im", ".", "getcolors", "(", "n_quantized", ")", "}", ")", "n_pixels", "=", "mul", "(", "*", "im", ".", "size", ")", "# aggregate colors", "to_canonical", "=", "{", "config", ".", "WHITE", ":", "config", ".", "WHITE", ",", "config", ".", "BLACK", ":", "config", ".", "BLACK", "}", "aggregated", "=", "Counter", "(", "{", "config", ".", "WHITE", ":", "0", ",", "config", ".", "BLACK", ":", "0", "}", ")", "sorted_cols", "=", "sorted", "(", "dist", ".", "items", "(", ")", ",", "key", "=", "itemgetter", "(", "1", ")", ",", "reverse", "=", "True", ")", "for", "c", ",", "n", "in", "sorted_cols", ":", "if", "c", "in", "aggregated", ":", "# exact match!", "aggregated", "[", "c", "]", "+=", "n", "else", ":", "d", ",", "nearest", "=", "min", "(", "(", "distance", "(", "c", ",", "alt", ")", ",", "alt", ")", "for", "alt", "in", "aggregated", ")", "if", "d", "<", "min_distance", ":", "# nearby match", "aggregated", "[", "nearest", "]", "+=", "n", "to_canonical", "[", "c", "]", "=", "nearest", "else", ":", "# no nearby match", "aggregated", "[", "c", "]", "=", "n", "to_canonical", "[", "c", "]", "=", "c", "# order by prominence", "colors", "=", "sorted", "(", "[", "Color", "(", "c", ",", "n", "/", "float", "(", "n_pixels", ")", ")", "for", "c", ",", "n", "in", "aggregated", ".", "items", "(", ")", "]", ",", "key", "=", "attrgetter", "(", "'prominence'", ")", ",", "reverse", "=", "True", ")", "colors", ",", "bg_color", "=", "detect_background", "(", "im", ",", "colors", ",", "to_canonical", ")", "# keep any color which meets the minimum saturation", "sat_colors", "=", "[", "c", "for", "c", "in", "colors", "if", "meets_min_saturation", "(", "c", ",", "min_saturation", ")", "]", "if", "bg_color", "and", "not", "meets_min_saturation", "(", "bg_color", ",", "min_saturation", ")", ":", "bg_color", "=", "None", "if", "sat_colors", ":", "colors", "=", "sat_colors", "else", ":", "# keep at least one color", "colors", "=", "colors", "[", ":", "1", "]", "# keep any color within 10% of the majority color", "color_list", "=", "[", "]", "color_count", "=", "0", "for", "color", "in", "colors", ":", "if", "color", ".", "prominence", ">=", "colors", "[", "0", "]", ".", "prominence", "*", "min_prominence", ":", "color_list", ".", "append", "(", "color", ")", "color_count", "+=", "1", "if", "color_count", ">=", "max_colors", ":", "break", "return", "Palette", "(", "color_list", ",", "bg_color", ")" ]

[ "Determine", "what", "the", "major", "colors", "are", "in", "the", "given", "image", "." ]

[ "def", "save_palette_as_image", "(", "filename", ",", "palette", ")", ":", "output_filename", "=", "'%s_palette.png'", "%", "filename", "[", ":", "filename", ".", "rfind", "(", "'.'", ")", "]", "size", "=", "(", "80", "*", "len", "(", "palette", ".", "colors", ")", ",", "80", ")", "im", "=", "Image", ".", "new", "(", "'RGB'", ",", "size", ")", "draw", "=", "ImageDraw", ".", "Draw", "(", "im", ")", "for", "i", ",", "c", "in", "enumerate", "(", "palette", ".", "colors", ")", ":", "v", "=", "colorsys", ".", "rgb_to_hsv", "(", "*", "norm_color", "(", "c", ".", "value", ")", ")", "[", "2", "]", "(", "x1", ",", "y1", ")", "=", "(", "i", "*", "80", ",", "0", ")", "(", "x2", ",", "y2", ")", "=", "(", "(", "i", "+", "1", ")", "*", "80", "-", "1", ",", "79", ")", "draw", ".", "rectangle", "(", "[", "(", "x1", ",", "y1", ")", ",", "(", "x2", ",", "y2", ")", "]", ",", "fill", "=", "c", ".", "value", ")", "if", "v", "<", "0.6", ":", "# white with shadow", "draw", ".", "text", "(", "(", "x1", "+", "4", ",", "y1", "+", "4", ")", ",", "rgb_to_hex", "(", "c", ".", "value", ")", ",", "(", "90", ",", "90", ",", "90", ")", ")", "draw", ".", "text", "(", "(", "x1", "+", "3", ",", "y1", "+", "3", ")", ",", "rgb_to_hex", "(", "c", ".", "value", ")", ")", "else", ":", "# dark with bright \"shadow\"", "draw", ".", "text", "(", "(", "x1", "+", "4", ",", "y1", "+", "4", ")", ",", "rgb_to_hex", "(", "c", ".", "value", ")", ",", "(", "230", ",", "230", ",", "230", ")", ")", "draw", ".", "text", "(", "(", "x1", "+", "3", ",", "y1", "+", "3", ")", ",", "rgb_to_hex", "(", "c", ".", "value", ")", ",", "(", "0", ",", "0", ",", "0", ")", ")", "im", ".", "save", "(", "output_filename", ",", "\"PNG\"", ")" ]

[ "Save", "palette", "as", "a", "PNG", "with", "labeled", "colored", "blocks" ]

[ "def", "autocrop", "(", "im", ",", "bgcolor", ")", ":", "if", "im", ".", "mode", "!=", "\"RGB\"", ":", "im", "=", "im", ".", "convert", "(", "\"RGB\"", ")", "bg", "=", "Image", ".", "new", "(", "\"RGB\"", ",", "im", ".", "size", ",", "bgcolor", ")", "diff", "=", "ImageChops", ".", "difference", "(", "im", ",", "bg", ")", "bbox", "=", "diff", ".", "getbbox", "(", ")", "if", "bbox", ":", "return", "im", ".", "crop", "(", "bbox", ")", "return", "im" ]

[ "Crop", "away", "a", "border", "of", "the", "given", "background", "color", "." ]

[ "def", "convert_to_influx", "(", "mac", ",", "payload", ")", ":", "dataFormat", "=", "payload", "[", "\"data_format\"", "]", "if", "(", "'data_format'", "in", "payload", ")", "else", "None", "fields", "=", "{", "}", "fields", "[", "\"temperature\"", "]", "=", "payload", "[", "\"temperature\"", "]", "if", "(", "'temperature'", "in", "payload", ")", "else", "None", "fields", "[", "\"humidity\"", "]", "=", "payload", "[", "\"humidity\"", "]", "if", "(", "'humidity'", "in", "payload", ")", "else", "None", "fields", "[", "\"pressure\"", "]", "=", "payload", "[", "\"pressure\"", "]", "if", "(", "'pressure'", "in", "payload", ")", "else", "None", "fields", "[", "\"accelerationX\"", "]", "=", "payload", "[", "\"acceleration_x\"", "]", "if", "(", "'acceleration_x'", "in", "payload", ")", "else", "None", "fields", "[", "\"accelerationY\"", "]", "=", "payload", "[", "\"acceleration_y\"", "]", "if", "(", "'acceleration_y'", "in", "payload", ")", "else", "None", "fields", "[", "\"accelerationZ\"", "]", "=", "payload", "[", "\"acceleration_z\"", "]", "if", "(", "'acceleration_z'", "in", "payload", ")", "else", "None", "fields", "[", "\"batteryVoltage\"", "]", "=", "payload", "[", "\"battery\"", "]", "/", "1000.0", "if", "(", "'battery'", "in", "payload", ")", "else", "None", "fields", "[", "\"txPower\"", "]", "=", "payload", "[", "\"tx_power\"", "]", "if", "(", "'tx_power'", "in", "payload", ")", "else", "None", "fields", "[", "\"movementCounter\"", "]", "=", "payload", "[", "\"movement_counter\"", "]", "if", "(", "'movement_counter'", "in", "payload", ")", "else", "None", "fields", "[", "\"measurementSequenceNumber\"", "]", "=", "payload", "[", "\"measurement_sequence_number\"", "]", "if", "(", "'measurement_sequence_number'", "in", "payload", ")", "else", "None", "fields", "[", "\"tagID\"", "]", "=", "payload", "[", "\"tagID\"", "]", "if", "(", "'tagID'", "in", "payload", ")", "else", "None", "fields", "[", "\"rssi\"", "]", "=", "payload", "[", "\"rssi\"", "]", "if", "(", "'rssi'", "in", "payload", ")", "else", "None", "return", "{", "\"measurement\"", ":", "\"ruuvi_measurements\"", ",", "\"tags\"", ":", "{", "\"mac\"", ":", "mac", ",", "\"dataFormat\"", ":", "dataFormat", "}", ",", "\"fields\"", ":", "fields", "}" ]

[ "Convert", "data", "into", "RuuviCollector", "naming", "schme", "and", "scale" ]

[ "def", "_run_get_data_background", "(", "macs", ",", "queue", ",", "shared_data", ",", "bt_device", ")", ":", "run_flag", "=", "RunFlag", "(", ")", "def", "add_data", "(", "data", ")", ":", "if", "not", "shared_data", "[", "'run_flag'", "]", ":", "run_flag", ".", "running", "=", "False", "data", "[", "1", "]", "[", "'time'", "]", "=", "datetime", ".", "utcnow", "(", ")", ".", "isoformat", "(", ")", "queue", ".", "put", "(", "data", ")", "RuuviTagSensor", ".", "get_datas", "(", "add_data", ",", "macs", ",", "run_flag", ",", "bt_device", ")" ]

[ "Background", "process", "function", "for", "RuuviTag", "Sensors" ]

[ "def", "_data_update", "(", "subjects", ",", "queue", ",", "run_flag", ")", ":", "while", "run_flag", ".", "running", ":", "while", "not", "queue", ".", "empty", "(", ")", ":", "data", "=", "queue", ".", "get", "(", ")", "for", "subject", "in", "[", "s", "for", "s", "in", "subjects", "if", "not", "s", ".", "is_disposed", "]", ":", "subject", ".", "on_next", "(", "data", ")", "time", ".", "sleep", "(", "0.1", ")" ]

[ "Get", "data", "from", "backgound", "process", "and", "notify", "all", "subscribed", "observers", "with", "the", "new", "data" ]

[ "async", "def", "data_update", "(", "queue", ")", ":", "global", "allData", "while", "True", ":", "while", "not", "queue", ".", "empty", "(", ")", ":", "data", "=", "queue", ".", "get", "(", ")", "allData", "[", "data", "[", "0", "]", "]", "=", "data", "[", "1", "]", "for", "key", ",", "value", "in", "tags", ".", "items", "(", ")", ":", "if", "key", "in", "allData", ":", "allData", "[", "key", "]", "[", "'name'", "]", "=", "value", "await", "asyncio", ".", "sleep", "(", "0.5", ")" ]

[ "Update", "data", "sent", "by", "the", "background", "process", "to", "global", "allData", "variable" ]

[ "def", "convert_data", "(", "raw", ")", ":", "# TODO: Check from raw data correct data format", "# Now this returns 2 also for Data Format 4", "data", "=", "RuuviTagSensor", ".", "_get_data_format_2and4", "(", "raw", ")", "if", "data", "is", "not", "None", ":", "return", "(", "2", ",", "data", ")", "data", "=", "RuuviTagSensor", ".", "_get_data_format_3", "(", "raw", ")", "if", "data", "is", "not", "None", ":", "return", "(", "3", ",", "data", ")", "data", "=", "RuuviTagSensor", ".", "_get_data_format_5", "(", "raw", ")", "if", "data", "is", "not", "None", ":", "return", "(", "5", ",", "data", ")", "return", "(", "None", ",", "None", ")" ]

[ "Validate", "that", "data", "is", "from", "RuuviTag", "and", "get", "correct", "data", "part", "." ]

[ "def", "find_ruuvitags", "(", "bt_device", "=", "''", ")", ":", "log", ".", "info", "(", "'Finding RuuviTags. Stop with Ctrl+C.'", ")", "datas", "=", "dict", "(", ")", "for", "new_data", "in", "RuuviTagSensor", ".", "_get_ruuvitag_datas", "(", "bt_device", "=", "bt_device", ")", ":", "if", "new_data", "[", "0", "]", "in", "datas", ":", "continue", "datas", "[", "new_data", "[", "0", "]", "]", "=", "new_data", "[", "1", "]", "log", ".", "info", "(", "new_data", "[", "0", "]", ")", "log", ".", "info", "(", "new_data", "[", "1", "]", ")", "return", "datas" ]

[ "Find", "all", "RuuviTags", ".", "Function", "will", "print", "the", "mac", "and", "the", "state", "of", "the", "sensors", "when", "found", ".", "Function", "will", "execute", "as", "long", "as", "it", "is", "stopped", ".", "Stop", "ecexution", "with", "Crtl", "+", "C", "." ]

[ "def", "get_data_for_sensors", "(", "macs", "=", "[", "]", ",", "search_duratio_sec", "=", "5", ",", "bt_device", "=", "''", ")", ":", "log", ".", "info", "(", "'Get latest data for sensors. Stop with Ctrl+C.'", ")", "log", ".", "info", "(", "'Stops automatically in %ss'", ",", "search_duratio_sec", ")", "log", ".", "info", "(", "'MACs: %s'", ",", "macs", ")", "datas", "=", "dict", "(", ")", "for", "new_data", "in", "RuuviTagSensor", ".", "_get_ruuvitag_datas", "(", "macs", ",", "search_duratio_sec", ",", "bt_device", "=", "bt_device", ")", ":", "datas", "[", "new_data", "[", "0", "]", "]", "=", "new_data", "[", "1", "]", "return", "datas" ]

[ "Get", "lates", "data", "for", "sensors", "in", "the", "MAC", "s", "list", "." ]

[ "def", "get_datas", "(", "callback", ",", "macs", "=", "[", "]", ",", "run_flag", "=", "RunFlag", "(", ")", ",", "bt_device", "=", "''", ")", ":", "log", ".", "info", "(", "'Get latest data for sensors. Stop with Ctrl+C.'", ")", "log", ".", "info", "(", "'MACs: %s'", ",", "macs", ")", "for", "new_data", "in", "RuuviTagSensor", ".", "_get_ruuvitag_datas", "(", "macs", ",", "None", ",", "run_flag", ",", "bt_device", ")", ":", "callback", "(", "new_data", ")" ]

[ "Get", "data", "for", "all", "ruuvitag", "sensors", "or", "sensors", "in", "the", "MAC", "s", "list", "." ]

[ "def", "_get_ruuvitag_datas", "(", "macs", "=", "[", "]", ",", "search_duratio_sec", "=", "None", ",", "run_flag", "=", "RunFlag", "(", ")", ",", "bt_device", "=", "''", ")", ":", "mac_blacklist", "=", "[", "]", "start_time", "=", "time", ".", "time", "(", ")", "data_iter", "=", "ble", ".", "get_datas", "(", "mac_blacklist", ",", "bt_device", ")", "for", "ble_data", "in", "data_iter", ":", "# Check duration", "if", "search_duratio_sec", "and", "time", ".", "time", "(", ")", "-", "start_time", ">", "search_duratio_sec", ":", "data_iter", ".", "send", "(", "StopIteration", ")", "break", "# Check running flag", "if", "not", "run_flag", ".", "running", ":", "data_iter", ".", "send", "(", "StopIteration", ")", "break", "# Check MAC whitelist", "if", "macs", "and", "not", "ble_data", "[", "0", "]", "in", "macs", ":", "continue", "(", "data_format", ",", "data", ")", "=", "RuuviTagSensor", ".", "convert_data", "(", "ble_data", "[", "1", "]", ")", "# Check that encoded data is valid RuuviTag data and it is sensor data", "# If data is not valid RuuviTag data add MAC to blacklist", "if", "data", "is", "not", "None", ":", "state", "=", "get_decoder", "(", "data_format", ")", ".", "decode_data", "(", "data", ")", "if", "state", "is", "not", "None", ":", "yield", "(", "ble_data", "[", "0", "]", ",", "state", ")", "else", ":", "mac_blacklist", ".", "append", "(", "ble_data", "[", "0", "]", ")" ]

[ "Get", "data", "from", "BluetoothCommunication", "and", "handle", "data", "encoding", "." ]

[ "def", "update", "(", "self", ")", ":", "(", "data_format", ",", "data", ")", "=", "RuuviTagSensor", ".", "get_data", "(", "self", ".", "_mac", ",", "self", ".", "_bt_device", ")", "if", "data", "==", "self", ".", "_data", ":", "return", "self", ".", "_state", "self", ".", "_data", "=", "data", "if", "self", ".", "_data", "is", "None", ":", "self", ".", "_state", "=", "{", "}", "else", ":", "self", ".", "_state", "=", "get_decoder", "(", "data_format", ")", ".", "decode_data", "(", "self", ".", "_data", ")", "return", "self", ".", "_state" ]

[ "Get", "lates", "data", "from", "the", "sensor", "and", "update", "own", "state", "." ]

[ "def", "write_to_influxdb", "(", "received_data", ")", ":", "dataFormat", "=", "received_data", "[", "1", "]", "[", "\"data_format\"", "]", "if", "(", "'data_format'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "=", "{", "}", "fields", "[", "\"temperature\"", "]", "=", "received_data", "[", "1", "]", "[", "\"temperature\"", "]", "if", "(", "'temperature'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"humidity\"", "]", "=", "received_data", "[", "1", "]", "[", "\"humidity\"", "]", "if", "(", "'humidity'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"pressure\"", "]", "=", "received_data", "[", "1", "]", "[", "\"pressure\"", "]", "if", "(", "'pressure'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"accelerationX\"", "]", "=", "received_data", "[", "1", "]", "[", "\"acceleration_x\"", "]", "if", "(", "'acceleration_x'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"accelerationY\"", "]", "=", "received_data", "[", "1", "]", "[", "\"acceleration_y\"", "]", "if", "(", "'acceleration_y'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"accelerationZ\"", "]", "=", "received_data", "[", "1", "]", "[", "\"acceleration_z\"", "]", "if", "(", "'acceleration_z'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"batteryVoltage\"", "]", "=", "received_data", "[", "1", "]", "[", "\"battery\"", "]", "/", "1000.0", "if", "(", "'battery'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"txPower\"", "]", "=", "received_data", "[", "1", "]", "[", "\"tx_power\"", "]", "if", "(", "'tx_power'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"movementCounter\"", "]", "=", "received_data", "[", "1", "]", "[", "\"movement_counter\"", "]", "if", "(", "'movement_counter'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"measurementSequenceNumber\"", "]", "=", "received_data", "[", "1", "]", "[", "\"measurement_sequence_number\"", "]", "if", "(", "'measurement_sequence_number'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"tagID\"", "]", "=", "received_data", "[", "1", "]", "[", "\"tagID\"", "]", "if", "(", "'tagID'", "in", "received_data", "[", "1", "]", ")", "else", "None", "fields", "[", "\"rssi\"", "]", "=", "received_data", "[", "1", "]", "[", "\"rssi\"", "]", "if", "(", "'rssi'", "in", "received_data", "[", "1", "]", ")", "else", "None", "json_body", "=", "[", "{", "\"measurement\"", ":", "\"ruuvi_measurements\"", ",", "\"tags\"", ":", "{", "\"mac\"", ":", "received_data", "[", "0", "]", ",", "\"dataFormat\"", ":", "dataFormat", "}", ",", "\"fields\"", ":", "fields", "}", "]", "client", ".", "write_points", "(", "json_body", ")" ]

[ "Convert", "data", "into", "RuuviCollecor", "naming", "schme", "and", "scale" ]

[ "def", "update_data", "(", ")", ":", "global", "allData", "while", "not", "q", ".", "empty", "(", ")", ":", "allData", "=", "q", ".", "get", "(", ")", "for", "key", ",", "value", "in", "tags", ".", "items", "(", ")", ":", "if", "key", "in", "allData", ":", "allData", "[", "key", "]", "[", "'name'", "]", "=", "value" ]

[ "Update", "data", "sent", "by", "background", "process", "to", "global", "allData" ]

[ "def", "_get_acceleration", "(", "self", ",", "data", ")", ":", "if", "(", "data", "[", "7", ":", "8", "]", "==", "0x7FFF", "or", "data", "[", "9", ":", "10", "]", "==", "0x7FFF", "or", "data", "[", "11", ":", "12", "]", "==", "0x7FFF", ")", ":", "return", "(", "None", ",", "None", ",", "None", ")", "acc_x", "=", "twos_complement", "(", "(", "data", "[", "7", "]", "<<", "8", ")", "+", "data", "[", "8", "]", ",", "16", ")", "acc_y", "=", "twos_complement", "(", "(", "data", "[", "9", "]", "<<", "8", ")", "+", "data", "[", "10", "]", ",", "16", ")", "acc_z", "=", "twos_complement", "(", "(", "data", "[", "11", "]", "<<", "8", ")", "+", "data", "[", "12", "]", ",", "16", ")", "return", "(", "acc_x", ",", "acc_y", ",", "acc_z", ")" ]

[ "Return", "acceleration", "mG" ]

[ "def", "_get_powerinfo", "(", "self", ",", "data", ")", ":", "power_info", "=", "(", "data", "[", "13", "]", "&", "0xFF", ")", "<<", "8", "|", "(", "data", "[", "14", "]", "&", "0xFF", ")", "battery_voltage", "=", "rshift", "(", "power_info", ",", "5", ")", "+", "1600", "tx_power", "=", "(", "power_info", "&", "0b11111", ")", "*", "2", "-", "40", "if", "rshift", "(", "power_info", ",", "5", ")", "==", "0b11111111111", ":", "battery_voltage", "=", "None", "if", "(", "power_info", "&", "0b11111", ")", "==", "0b11111", ":", "tx_power", "=", "None", "return", "(", "round", "(", "battery_voltage", ",", "3", ")", ",", "tx_power", ")" ]

[ "Return", "battery", "voltage", "and", "tx", "power" ]

[ "def", "split_key", "(", "key", ",", "max_keys", "=", "0", ")", ":", "parts", "=", "[", "x", "for", "x", "in", "re", ".", "split", "(", "SPLIT_REGEX", ",", "key", ")", "if", "x", "!=", "\".\"", "]", "result", "=", "[", "]", "while", "len", "(", "parts", ")", ">", "0", ":", "if", "max_keys", ">", "0", "and", "len", "(", "result", ")", "==", "max_keys", ":", "break", "result", ".", "append", "(", "parts", ".", "pop", "(", "0", ")", ")", "if", "len", "(", "parts", ")", ">", "0", ":", "result", ".", "append", "(", "\".\"", ".", "join", "(", "parts", ")", ")", "return", "result" ]

[ "Splits", "a", "key", "but", "allows", "dots", "in", "the", "key", "name", "if", "they", "re", "scaped", "properly", "." ]

[ "def", "to_python", "(", "self", ")", ":", "result", "=", "list", "(", "self", ")", "for", "index", ",", "value", "in", "enumerate", "(", "result", ")", ":", "if", "isinstance", "(", "value", ",", "DottedCollection", ")", ":", "result", "[", "index", "]", "=", "value", ".", "to_python", "(", ")", "return", "result" ]

[ "Returns", "a", "plain", "python", "list", "and", "converts", "to", "plain", "python", "objects", "all", "this", "object", "s", "descendants", "." ]

[ "def", "to_python", "(", "self", ")", ":", "result", "=", "dict", "(", "self", ")", "for", "key", ",", "value", "in", "iteritems", "(", "result", ")", ":", "if", "isinstance", "(", "value", ",", "DottedCollection", ")", ":", "result", "[", "key", "]", "=", "value", ".", "to_python", "(", ")", "return", "result" ]

[ "Returns", "a", "plain", "python", "dict", "and", "converts", "to", "plain", "python", "objects", "all", "this", "object", "s", "descendants", "." ]

[ "def", "handle_nick", "(", "self", ",", "params", ")", ":", "nick", "=", "params", "# Valid nickname?", "if", "re", ".", "search", "(", "r'[^a-zA-Z0-9\\-\\[\\]\\'`^{}_]'", ",", "nick", ")", ":", "raise", "IRCError", ".", "from_name", "(", "'erroneusnickname'", ",", "':%s'", "%", "nick", ")", "if", "self", ".", "server", ".", "clients", ".", "get", "(", "nick", ",", "None", ")", "==", "self", ":", "# Already registered to user", "return", "if", "nick", "in", "self", ".", "server", ".", "clients", ":", "# Someone else is using the nick", "raise", "IRCError", ".", "from_name", "(", "'nicknameinuse'", ",", "'NICK :%s'", "%", "(", "nick", ")", ")", "if", "not", "self", ".", "nick", ":", "# New connection and nick is available; register and send welcome", "# and MOTD.", "self", ".", "nick", "=", "nick", "self", ".", "server", ".", "clients", "[", "nick", "]", "=", "self", "response", "=", "':%s %s %s :%s'", "%", "(", "self", ".", "server", ".", "servername", ",", "events", ".", "codes", "[", "'welcome'", "]", ",", "self", ".", "nick", ",", "SRV_WELCOME", ")", "self", ".", "send_queue", ".", "append", "(", "response", ")", "response", "=", "':%s 376 %s :End of MOTD command.'", "%", "(", "self", ".", "server", ".", "servername", ",", "self", ".", "nick", ")", "self", ".", "send_queue", ".", "append", "(", "response", ")", "return", "# Nick is available. Change the nick.", "message", "=", "':%s NICK :%s'", "%", "(", "self", ".", "client_ident", "(", ")", ",", "nick", ")", "self", ".", "server", ".", "clients", ".", "pop", "(", "self", ".", "nick", ")", "self", ".", "nick", "=", "nick", "self", ".", "server", ".", "clients", "[", "self", ".", "nick", "]", "=", "self", "# Send a notification of the nick change to all the clients in the", "# channels the client is in.", "for", "channel", "in", "self", ".", "channels", ".", "values", "(", ")", ":", "self", ".", "_send_to_others", "(", "message", ",", "channel", ")", "# Send a notification of the nick change to the client itself", "return", "message" ]

[ "Handle", "the", "initial", "setting", "of", "the", "user", "s", "nickname", "and", "nick", "changes", "." ]

[ "def", "handle_user", "(", "self", ",", "params", ")", ":", "params", "=", "params", ".", "split", "(", "' '", ",", "3", ")", "if", "len", "(", "params", ")", "!=", "4", ":", "raise", "IRCError", ".", "from_name", "(", "'needmoreparams'", ",", "'USER :Not enough parameters'", ")", "user", ",", "mode", ",", "unused", ",", "realname", "=", "params", "self", ".", "user", "=", "user", "self", ".", "mode", "=", "mode", "self", ".", "realname", "=", "realname", "return", "''" ]

[ "Handle", "the", "USER", "command", "which", "identifies", "the", "user", "to", "the", "server", "." ]

[ "def", "handle_privmsg", "(", "self", ",", "params", ")", ":", "target", ",", "sep", ",", "msg", "=", "params", ".", "partition", "(", "' '", ")", "if", "not", "msg", ":", "raise", "IRCError", ".", "from_name", "(", "'needmoreparams'", ",", "'PRIVMSG :Not enough parameters'", ")", "message", "=", "':%s PRIVMSG %s %s'", "%", "(", "self", ".", "client_ident", "(", ")", ",", "target", ",", "msg", ")", "if", "target", ".", "startswith", "(", "'#'", ")", "or", "target", ".", "startswith", "(", "'$'", ")", ":", "# Message to channel. Check if the channel exists.", "channel", "=", "self", ".", "server", ".", "channels", ".", "get", "(", "target", ")", "if", "not", "channel", ":", "raise", "IRCError", ".", "from_name", "(", "'nosuchnick'", ",", "'PRIVMSG :%s'", "%", "target", ")", "if", "channel", ".", "name", "not", "in", "self", ".", "channels", ":", "# The user isn't in the channel.", "raise", "IRCError", ".", "from_name", "(", "'cannotsendtochan'", ",", "'%s :Cannot send to channel'", "%", "channel", ".", "name", ")", "self", ".", "_send_to_others", "(", "message", ",", "channel", ")", "else", ":", "# Message to user", "client", "=", "self", ".", "server", ".", "clients", ".", "get", "(", "target", ",", "None", ")", "if", "not", "client", ":", "raise", "IRCError", ".", "from_name", "(", "'nosuchnick'", ",", "'PRIVMSG :%s'", "%", "target", ")", "client", ".", "send_queue", ".", "append", "(", "message", ")" ]

[ "Handle", "sending", "a", "private", "message", "to", "a", "user", "or", "channel", "." ]

[ "def", "_send_to_others", "(", "self", ",", "message", ",", "channel", ")", ":", "other_clients", "=", "[", "client", "for", "client", "in", "channel", ".", "clients", "if", "not", "client", "==", "self", "]", "for", "client", "in", "other_clients", ":", "client", ".", "send_queue", ".", "append", "(", "message", ")" ]

[ "Send", "the", "message", "to", "all", "clients", "in", "the", "specified", "channel", "except", "for", "self", "." ]

[ "def", "handle_topic", "(", "self", ",", "params", ")", ":", "channel_name", ",", "sep", ",", "topic", "=", "params", ".", "partition", "(", "' '", ")", "channel", "=", "self", ".", "server", ".", "channels", ".", "get", "(", "channel_name", ")", "if", "not", "channel", ":", "raise", "IRCError", ".", "from_name", "(", "'nosuchnick'", ",", "'PRIVMSG :%s'", "%", "channel_name", ")", "if", "channel", ".", "name", "not", "in", "self", ".", "channels", ":", "# The user isn't in the channel.", "raise", "IRCError", ".", "from_name", "(", "'cannotsendtochan'", ",", "'%s :Cannot send to channel'", "%", "channel", ".", "name", ")", "if", "topic", ":", "channel", ".", "topic", "=", "topic", ".", "lstrip", "(", "':'", ")", "channel", ".", "topic_by", "=", "self", ".", "nick", "message", "=", "':%s TOPIC %s :%s'", "%", "(", "self", ".", "client_ident", "(", ")", ",", "channel_name", ",", "channel", ".", "topic", ")", "return", "message" ]

[ "Handle", "a", "topic", "command", "." ]

[ "def", "handle_quit", "(", "self", ",", "params", ")", ":", "response", "=", "':%s QUIT :%s'", "%", "(", "self", ".", "client_ident", "(", ")", ",", "params", ".", "lstrip", "(", "':'", ")", ")", "# Send quit message to all clients in all channels user is in, and", "# remove the user from the channels.", "for", "channel", "in", "self", ".", "channels", ".", "values", "(", ")", ":", "for", "client", "in", "channel", ".", "clients", ":", "client", ".", "send_queue", ".", "append", "(", "response", ")", "channel", ".", "clients", ".", "remove", "(", "self", ")" ]

[ "Handle", "the", "client", "breaking", "off", "the", "connection", "with", "a", "QUIT", "command", "." ]

[ "def", "handle_dump", "(", "self", ",", "params", ")", ":", "print", "(", "\"Clients:\"", ",", "self", ".", "server", ".", "clients", ")", "for", "client", "in", "self", ".", "server", ".", "clients", ".", "values", "(", ")", ":", "print", "(", "\" \"", ",", "client", ")", "for", "channel", "in", "client", ".", "channels", ".", "values", "(", ")", ":", "print", "(", "\" \"", ",", "channel", ".", "name", ")", "print", "(", "\"Channels:\"", ",", "self", ".", "server", ".", "channels", ")", "for", "channel", "in", "self", ".", "server", ".", "channels", ".", "values", "(", ")", ":", "print", "(", "\" \"", ",", "channel", ".", "name", ",", "channel", ")", "for", "client", "in", "channel", ".", "clients", ":", "print", "(", "\" \"", ",", "client", ".", "nick", ",", "client", ")" ]

[ "Dump", "internal", "server", "information", "for", "debugging", "purposes", "." ]

[ "def", "client_ident", "(", "self", ")", ":", "return", "irc", ".", "client", ".", "NickMask", ".", "from_params", "(", "self", ".", "nick", ",", "self", ".", "user", ",", "self", ".", "server", ".", "servername", ")" ]

[ "Return", "the", "client", "identifier", "as", "included", "in", "many", "command", "replies", "." ]

[ "def", "finish", "(", "self", ")", ":", "log", ".", "info", "(", "'Client disconnected: %s'", ",", "self", ".", "client_ident", "(", ")", ")", "response", "=", "':%s QUIT :EOF from client'", "%", "self", ".", "client_ident", "(", ")", "for", "channel", "in", "self", ".", "channels", ".", "values", "(", ")", ":", "if", "self", "in", "channel", ".", "clients", ":", "# Client is gone without properly QUITing or PARTing this", "# channel.", "for", "client", "in", "channel", ".", "clients", ":", "client", ".", "send_queue", ".", "append", "(", "response", ")", "channel", ".", "clients", ".", "remove", "(", "self", ")", "if", "self", ".", "nick", ":", "self", ".", "server", ".", "clients", ".", "pop", "(", "self", ".", "nick", ")", "log", ".", "info", "(", "'Connection finished: %s'", ",", "self", ".", "client_ident", "(", ")", ")" ]

[ "The", "client", "conection", "is", "finished", ".", "Do", "some", "cleanup", "to", "ensure", "that", "the", "client", "doesn", "t", "linger", "around", "in", "any", "channel", "or", "the", "client", "list", "in", "case", "the", "client", "didn", "t", "properly", "close", "the", "connection", "with", "PART", "and", "QUIT", "." ]

[ "def", "send_raw", "(", "self", ",", "string", ")", ":", "log", ".", "debug", "(", "'RAW: {}'", ".", "format", "(", "string", ")", ")", "if", "self", ".", "transport", "is", "None", ":", "raise", "ServerNotConnectedError", "(", "\"Not connected.\"", ")", "self", ".", "transport", ".", "write", "(", "self", ".", "_prep_message", "(", "string", ")", ")" ]

[ "Send", "raw", "string", "to", "the", "server", "via", "the", "asyncio", "transport", "." ]

[ "def", "_parse_modes", "(", "mode_string", ",", "unary_modes", "=", "\"\"", ")", ":", "# mode_string must be non-empty and begin with a sign", "if", "not", "mode_string", "or", "not", "mode_string", "[", "0", "]", "in", "'+-'", ":", "return", "[", "]", "modes", "=", "[", "]", "parts", "=", "mode_string", ".", "split", "(", ")", "mode_part", ",", "args", "=", "parts", "[", "0", "]", ",", "parts", "[", "1", ":", "]", "for", "ch", "in", "mode_part", ":", "if", "ch", "in", "\"+-\"", ":", "sign", "=", "ch", "continue", "arg", "=", "args", ".", "pop", "(", "0", ")", "if", "ch", "in", "unary_modes", "and", "args", "else", "None", "modes", ".", "append", "(", "[", "sign", ",", "ch", ",", "arg", "]", ")", "return", "modes" ]

[ "Parse", "the", "mode_string", "and", "return", "a", "list", "of", "triples", "." ]

[ "def", "from_group", "(", "cls", ",", "group", ")", ":", "if", "not", "group", ":", "return", "tag_items", "=", "group", ".", "split", "(", "\";\"", ")", "return", "list", "(", "map", "(", "cls", ".", "parse", ",", "tag_items", ")", ")" ]

[ "Construct", "tags", "from", "the", "regex", "group" ]

[ "def", "from_group", "(", "group", ")", ":", "if", "not", "group", ":", "return", "[", "]", "main", ",", "sep", ",", "ext", "=", "group", ".", "partition", "(", "\" :\"", ")", "arguments", "=", "main", ".", "split", "(", ")", "if", "sep", ":", "arguments", ".", "append", "(", "ext", ")", "return", "arguments" ]

[ "Construct", "arguments", "from", "the", "regex", "group" ]

[ "def", "set", "(", "self", ",", "name", ",", "value", "=", "True", ")", ":", "setattr", "(", "self", ",", "name", ".", "lower", "(", ")", ",", "value", ")" ]

[ "set", "a", "feature", "value" ]

[ "def", "load", "(", "self", ",", "arguments", ")", ":", "features", "=", "arguments", "[", "1", ":", "-", "1", "]", "list", "(", "map", "(", "self", ".", "load_feature", ",", "features", ")", ")" ]

[ "Load", "the", "values", "from", "the", "a", "ServerConnection", "arguments" ]

[ "def", "_parse_PREFIX", "(", "value", ")", ":", "channel_modes", ",", "channel_chars", "=", "value", ".", "split", "(", "')'", ")", "channel_modes", "=", "channel_modes", "[", "1", ":", "]", "return", "collections", ".", "OrderedDict", "(", "zip", "(", "channel_chars", ",", "channel_modes", ")", ")" ]

[ "channel", "user", "prefixes" ]

[ "def", "_connect", "(", "self", ")", ":", "server", "=", "self", ".", "servers", ".", "peek", "(", ")", "try", ":", "self", ".", "connect", "(", "server", ".", "host", ",", "server", ".", "port", ",", "self", ".", "_nickname", ",", "server", ".", "password", ",", "ircname", "=", "self", ".", "_realname", ",", "*", "*", "self", ".", "__connect_params", ")", "except", "irc", ".", "client", ".", "ServerConnectionError", ":", "pass" ]

[ "Establish", "a", "connection", "to", "the", "server", "at", "the", "front", "of", "the", "server_list", "." ]

[ "def", "jump_server", "(", "self", ",", "msg", "=", "\"Changing servers\"", ")", ":", "if", "self", ".", "connection", ".", "is_connected", "(", ")", ":", "self", ".", "connection", ".", "disconnect", "(", "msg", ")", "next", "(", "self", ".", "servers", ")", "self", ".", "_connect", "(", ")" ]

[ "Connect", "to", "a", "new", "server", "possibly", "disconnecting", "from", "the", "current", "." ]

[ "def", "on_ctcp", "(", "self", ",", "connection", ",", "event", ")", ":", "nick", "=", "event", ".", "source", ".", "nick", "if", "event", ".", "arguments", "[", "0", "]", "==", "\"VERSION\"", ":", "connection", ".", "ctcp_reply", "(", "nick", ",", "\"VERSION \"", "+", "self", ".", "get_version", "(", ")", ")", "elif", "event", ".", "arguments", "[", "0", "]", "==", "\"PING\"", ":", "if", "len", "(", "event", ".", "arguments", ")", ">", "1", ":", "connection", ".", "ctcp_reply", "(", "nick", ",", "\"PING \"", "+", "event", ".", "arguments", "[", "1", "]", ")", "elif", "(", "event", ".", "arguments", "[", "0", "]", "==", "\"DCC\"", "and", "event", ".", "arguments", "[", "1", "]", ".", "split", "(", "\" \"", ",", "1", ")", "[", "0", "]", "==", "\"CHAT\"", ")", ":", "self", ".", "on_dccchat", "(", "connection", ",", "event", ")" ]

[ "Default", "handler", "for", "ctcp", "events", "." ]

[ "def", "set_mode", "(", "self", ",", "mode", ",", "value", "=", "None", ")", ":", "if", "mode", "in", "self", ".", "user_modes", ":", "self", ".", "mode_users", "[", "mode", "]", "[", "value", "]", "=", "1", "else", ":", "self", ".", "modes", "[", "mode", "]", "=", "value" ]

[ "Set", "mode", "on", "the", "channel", "." ]

[ "def", "clear_mode", "(", "self", ",", "mode", ",", "value", "=", "None", ")", ":", "try", ":", "if", "mode", "in", "self", ".", "user_modes", ":", "del", "self", ".", "mode_users", "[", "mode", "]", "[", "value", "]", "else", ":", "del", "self", ".", "modes", "[", "mode", "]", "except", "KeyError", ":", "pass" ]

[ "Clear", "mode", "on", "the", "channel", "." ]

[ "def", "ip_numstr_to_quad", "(", "num", ")", ":", "packed", "=", "struct", ".", "pack", "(", "'>L'", ",", "int", "(", "num", ")", ")", "bytes", "=", "struct", ".", "unpack", "(", "'BBBB'", ",", "packed", ")", "return", "\".\"", ".", "join", "(", "map", "(", "str", ",", "bytes", ")", ")" ]

[ "Convert", "an", "IP", "number", "as", "an", "integer", "given", "in", "ASCII", "representation", "to", "an", "IP", "address", "string", "." ]

[ "def", "as_nick", "(", "self", ",", "name", ")", ":", "orig", "=", "self", ".", "get_nickname", "(", ")", "self", ".", "nick", "(", "name", ")", "try", ":", "yield", "orig", "finally", ":", "self", ".", "nick", "(", "orig", ")" ]

[ "Set", "the", "nick", "for", "the", "duration", "of", "the", "context", "." ]

[ "def", "process_data", "(", "self", ")", ":", "try", ":", "reader", "=", "getattr", "(", "self", ".", "socket", ",", "'read'", ",", "self", ".", "socket", ".", "recv", ")", "new_data", "=", "reader", "(", "2", "**", "14", ")", "except", "socket", ".", "error", ":", "# The server hung up.", "self", ".", "disconnect", "(", "\"Connection reset by peer\"", ")", "return", "if", "not", "new_data", ":", "# Read nothing: connection must be down.", "self", ".", "disconnect", "(", "\"Connection reset by peer\"", ")", "return", "self", ".", "buffer", ".", "feed", "(", "new_data", ")", "# process each non-empty line after logging all lines", "for", "line", "in", "self", ".", "buffer", ":", "log", ".", "debug", "(", "\"FROM SERVER: %s\"", ",", "line", ")", "if", "not", "line", ":", "continue", "self", ".", "_process_line", "(", "line", ")" ]

[ "read", "and", "process", "input", "from", "self", ".", "socket" ]

[ "def", "ctcp", "(", "self", ",", "ctcptype", ",", "target", ",", "parameter", "=", "\"\"", ")", ":", "ctcptype", "=", "ctcptype", ".", "upper", "(", ")", "tmpl", "=", "(", "\"\\001{ctcptype} {parameter}\\001\"", "if", "parameter", "else", "\"\\001{ctcptype}\\001\"", ")", "self", ".", "privmsg", "(", "target", ",", "tmpl", ".", "format", "(", "*", "*", "vars", "(", ")", ")", ")" ]

[ "Send", "a", "CTCP", "command", "." ]

[ "def", "kick", "(", "self", ",", "channel", ",", "nick", ",", "comment", "=", "\"\"", ")", ":", "self", ".", "send_items", "(", "'KICK'", ",", "channel", ",", "nick", ",", "comment", "and", "':'", "+", "comment", ")" ]

[ "Send", "a", "KICK", "command", "." ]

[ "def", "list", "(", "self", ",", "channels", "=", "None", ",", "server", "=", "\"\"", ")", ":", "self", ".", "send_items", "(", "'LIST'", ",", "','", ".", "join", "(", "always_iterable", "(", "channels", ")", ")", ",", "server", ")" ]

[ "Send", "a", "LIST", "command", "." ]

[ "def", "part", "(", "self", ",", "channels", ",", "message", "=", "\"\"", ")", ":", "self", ".", "send_items", "(", "'PART'", ",", "','", ".", "join", "(", "always_iterable", "(", "channels", ")", ")", ",", "message", ")" ]

[ "Send", "a", "PART", "command", "." ]

[ "def", "privmsg_many", "(", "self", ",", "targets", ",", "text", ")", ":", "target", "=", "','", ".", "join", "(", "targets", ")", "return", "self", ".", "privmsg", "(", "target", ",", "text", ")" ]

[ "Send", "a", "PRIVMSG", "command", "to", "multiple", "targets", "." ]

[ "def", "user", "(", "self", ",", "username", ",", "realname", ")", ":", "cmd", "=", "'USER {username} 0 * :{realname}'", ".", "format", "(", "*", "*", "locals", "(", ")", ")", "self", ".", "send_raw", "(", "cmd", ")" ]

[ "Send", "a", "USER", "command", "." ]

[ "def", "whowas", "(", "self", ",", "nick", ",", "max", "=", "\"\"", ",", "server", "=", "\"\"", ")", ":", "self", ".", "send_items", "(", "'WHOWAS'", ",", "nick", ",", "max", ",", "server", ")" ]

[ "Send", "a", "WHOWAS", "command", "." ]

[ "def", "set_keepalive", "(", "self", ",", "interval", ")", ":", "pinger", "=", "functools", ".", "partial", "(", "self", ".", "ping", ",", "'keep-alive'", ")", "self", ".", "reactor", ".", "scheduler", ".", "execute_every", "(", "period", "=", "interval", ",", "func", "=", "pinger", ")" ]

[ "Set", "a", "keepalive", "to", "occur", "every", "interval", "on", "this", "connection", "." ]

[ "def", "server", "(", "self", ")", ":", "conn", "=", "self", ".", "connection_class", "(", "self", ")", "with", "self", ".", "mutex", ":", "self", ".", "connections", ".", "append", "(", "conn", ")", "return", "conn" ]

[ "Creates", "and", "returns", "a", "ServerConnection", "object", "." ]

[ "def", "process_data", "(", "self", ",", "sockets", ")", ":", "with", "self", ".", "mutex", ":", "log", ".", "log", "(", "logging", ".", "DEBUG", "-", "2", ",", "\"process_data()\"", ")", "for", "sock", ",", "conn", "in", "itertools", ".", "product", "(", "sockets", ",", "self", ".", "connections", ")", ":", "if", "sock", "==", "conn", ".", "socket", ":", "conn", ".", "process_data", "(", ")" ]

[ "Called", "when", "there", "is", "more", "data", "to", "read", "on", "connection", "sockets", "." ]

[ "def", "process_once", "(", "self", ",", "timeout", "=", "0", ")", ":", "log", ".", "log", "(", "logging", ".", "DEBUG", "-", "2", ",", "\"process_once()\"", ")", "sockets", "=", "self", ".", "sockets", "if", "sockets", ":", "in_", ",", "out", ",", "err", "=", "select", ".", "select", "(", "sockets", ",", "[", "]", ",", "[", "]", ",", "timeout", ")", "self", ".", "process_data", "(", "in_", ")", "else", ":", "time", ".", "sleep", "(", "timeout", ")", "self", ".", "process_timeout", "(", ")" ]

[ "Process", "data", "from", "connections", "once", "." ]

[ "def", "disconnect_all", "(", "self", ",", "message", "=", "\"\"", ")", ":", "with", "self", ".", "mutex", ":", "for", "conn", "in", "self", ".", "connections", ":", "conn", ".", "disconnect", "(", "message", ")" ]

[ "Disconnects", "all", "connections", "." ]

[ "def", "add_global_handler", "(", "self", ",", "event", ",", "handler", ",", "priority", "=", "0", ")", ":", "handler", "=", "PrioritizedHandler", "(", "priority", ",", "handler", ")", "with", "self", ".", "mutex", ":", "event_handlers", "=", "self", ".", "handlers", ".", "setdefault", "(", "event", ",", "[", "]", ")", "bisect", ".", "insort", "(", "event_handlers", ",", "handler", ")" ]

[ "Adds", "a", "global", "handler", "function", "for", "a", "specific", "event", "type", "." ]

[ "def", "remove_global_handler", "(", "self", ",", "event", ",", "handler", ")", ":", "with", "self", ".", "mutex", ":", "if", "event", "not", "in", "self", ".", "handlers", ":", "return", "0", "for", "h", "in", "self", ".", "handlers", "[", "event", "]", ":", "if", "handler", "==", "h", ".", "callback", ":", "self", ".", "handlers", "[", "event", "]", ".", "remove", "(", "h", ")", "return", "1" ]

[ "Removes", "a", "global", "handler", "function", "." ]

[ "def", "dcc", "(", "self", ",", "dcctype", "=", "\"chat\"", ")", ":", "with", "self", ".", "mutex", ":", "conn", "=", "DCCConnection", "(", "self", ",", "dcctype", ")", "self", ".", "connections", ".", "append", "(", "conn", ")", "return", "conn" ]

[ "Creates", "and", "returns", "a", "DCCConnection", "object", "." ]

[ "def", "_handle_event", "(", "self", ",", "connection", ",", "event", ")", ":", "with", "self", ".", "mutex", ":", "matching_handlers", "=", "sorted", "(", "self", ".", "handlers", ".", "get", "(", "\"all_events\"", ",", "[", "]", ")", "+", "self", ".", "handlers", ".", "get", "(", "event", ".", "type", ",", "[", "]", ")", ")", "for", "handler", "in", "matching_handlers", ":", "result", "=", "handler", ".", "callback", "(", "connection", ",", "event", ")", "if", "result", "==", "\"NO MORE\"", ":", "return" ]

[ "Handle", "an", "Event", "event", "incoming", "on", "ServerConnection", "connection", "." ]

[ "def", "disconnect", "(", "self", ",", "message", "=", "\"\"", ")", ":", "try", ":", "del", "self", ".", "connected", "except", "AttributeError", ":", "return", "try", ":", "self", ".", "socket", ".", "shutdown", "(", "socket", ".", "SHUT_WR", ")", "self", ".", "socket", ".", "close", "(", ")", "except", "socket", ".", "error", ":", "pass", "del", "self", ".", "socket", "self", ".", "reactor", ".", "_handle_event", "(", "self", ",", "Event", "(", "\"dcc_disconnect\"", ",", "self", ".", "peeraddress", ",", "\"\"", ",", "[", "message", "]", ")", ")", "self", ".", "reactor", ".", "_remove_connection", "(", "self", ")" ]

[ "Hang", "up", "the", "connection", "and", "close", "the", "object", "." ]

[ "def", "privmsg", "(", "self", ",", "text", ")", ":", "if", "self", ".", "dcctype", "==", "'chat'", ":", "text", "+=", "'\\n'", "return", "self", ".", "send_bytes", "(", "self", ".", "encode", "(", "text", ")", ")" ]

[ "Send", "text", "to", "DCC", "peer", "." ]

[ "def", "send_bytes", "(", "self", ",", "bytes", ")", ":", "try", ":", "self", ".", "socket", ".", "send", "(", "bytes", ")", "log", ".", "debug", "(", "\"TO PEER: %r\\n\"", ",", "bytes", ")", "except", "socket", ".", "error", ":", "self", ".", "disconnect", "(", "\"Connection reset by peer.\"", ")" ]

[ "Send", "data", "to", "DCC", "peer", "." ]

[ "def", "dcc", "(", "self", ",", "*", "args", ",", "*", "*", "kwargs", ")", ":", "dcc", "=", "self", ".", "reactor", ".", "dcc", "(", "*", "args", ",", "*", "*", "kwargs", ")", "self", ".", "dcc_connections", ".", "append", "(", "dcc", ")", "return", "dcc" ]

[ "Create", "and", "associate", "a", "new", "DCCConnection", "object", "." ]

[ "def", "dcc_connect", "(", "self", ",", "address", ",", "port", ",", "dcctype", "=", "\"chat\"", ")", ":", "warnings", ".", "warn", "(", "\"Use self.dcc(type).connect()\"", ",", "DeprecationWarning", ")", "return", "self", ".", "dcc", "(", "dcctype", ")", ".", "connect", "(", "address", ",", "port", ")" ]

[ "Connect", "to", "a", "DCC", "peer", "." ]

[ "def", "dcc_listen", "(", "self", ",", "dcctype", "=", "\"chat\"", ")", ":", "warnings", ".", "warn", "(", "\"Use self.dcc(type).listen()\"", ",", "DeprecationWarning", ")", "return", "self", ".", "dcc", "(", "dcctype", ")", ".", "listen", "(", ")" ]

[ "Listen", "for", "connections", "from", "a", "DCC", "peer", "." ]

[ "def", "dequote", "(", "message", ")", ":", "# Perform the substitution", "message", "=", "low_level_regexp", ".", "sub", "(", "_low_level_replace", ",", "message", ")", "if", "DELIMITER", "not", "in", "message", ":", "return", "[", "message", "]", "# Split it into parts.", "chunks", "=", "message", ".", "split", "(", "DELIMITER", ")", "return", "list", "(", "_gen_messages", "(", "chunks", ")", ")" ]

[ "Dequote", "a", "message", "according", "to", "CTCP", "specifications", "." ]

[ "def", "connect", "(", "server", ",", "password", "=", "None", ",", "factory_class", "=", "VNCDoToolFactory", ",", "proxy", "=", "ThreadedVNCClientProxy", ",", "timeout", "=", "None", ")", ":", "if", "not", "reactor", ".", "running", ":", "global", "_THREAD", "_THREAD", "=", "threading", ".", "Thread", "(", "target", "=", "reactor", ".", "run", ",", "name", "=", "'Twisted'", ",", "kwargs", "=", "{", "'installSignalHandlers'", ":", "False", "}", ")", "_THREAD", ".", "daemon", "=", "True", "_THREAD", ".", "start", "(", ")", "observer", "=", "PythonLoggingObserver", "(", ")", "observer", ".", "start", "(", ")", "factory", "=", "factory_class", "(", ")", "if", "password", "is", "not", "None", ":", "factory", ".", "password", "=", "password", "family", ",", "host", ",", "port", "=", "command", ".", "parse_server", "(", "server", ")", "client", "=", "proxy", "(", "factory", ",", "timeout", ")", "client", ".", "connect", "(", "host", ",", "port", "=", "port", ",", "family", "=", "family", ")", "return", "client" ]

[ "Connect", "to", "a", "VNCServer", "and", "return", "a", "Client", "instance", "that", "is", "usable", "in", "the", "main", "thread", "of", "non", "-", "Twisted", "Python", "Applications", "EXPERIMENTAL", "." ]

[ "def", "keyPress", "(", "self", ",", "key", ")", ":", "log", ".", "debug", "(", "'keyPress %s'", ",", "key", ")", "self", ".", "keyDown", "(", "key", ")", "self", ".", "keyUp", "(", "key", ")", "return", "self" ]

[ "Send", "a", "key", "press", "to", "the", "server" ]

[ "def", "mousePress", "(", "self", ",", "button", ")", ":", "log", ".", "debug", "(", "'mousePress %s'", ",", "button", ")", "buttons", "=", "self", ".", "buttons", "|", "(", "1", "<<", "(", "button", "-", "1", ")", ")", "self", ".", "mouseDown", "(", "button", ")", "self", ".", "mouseUp", "(", "button", ")", "return", "self" ]

[ "Send", "a", "mouse", "click", "at", "the", "last", "set", "position" ]

[ "def", "mouseDown", "(", "self", ",", "button", ")", ":", "log", ".", "debug", "(", "'mouseDown %s'", ",", "button", ")", "self", ".", "buttons", "|=", "1", "<<", "(", "button", "-", "1", ")", "self", ".", "pointerEvent", "(", "self", ".", "x", ",", "self", ".", "y", ",", "buttonmask", "=", "self", ".", "buttons", ")", "return", "self" ]

[ "Send", "a", "mouse", "button", "down", "at", "the", "last", "set", "position" ]

[ "def", "captureRegion", "(", "self", ",", "filename", ",", "x", ",", "y", ",", "w", ",", "h", ")", ":", "log", ".", "debug", "(", "'captureRegion %s'", ",", "filename", ")", "return", "self", ".", "_capture", "(", "filename", ",", "x", ",", "y", ",", "x", "+", "w", ",", "y", "+", "h", ")" ]

[ "Save", "a", "region", "of", "the", "current", "display", "to", "filename" ]

[ "def", "expectScreen", "(", "self", ",", "filename", ",", "maxrms", "=", "0", ")", ":", "log", ".", "debug", "(", "'expectScreen %s'", ",", "filename", ")", "return", "self", ".", "_expectFramebuffer", "(", "filename", ",", "0", ",", "0", ",", "maxrms", ")" ]

[ "Wait", "until", "the", "display", "matches", "a", "target", "image" ]

[ "def", "expectRegion", "(", "self", ",", "filename", ",", "x", ",", "y", ",", "maxrms", "=", "0", ")", ":", "log", ".", "debug", "(", "'expectRegion %s (%s, %s)'", ",", "filename", ",", "x", ",", "y", ")", "return", "self", ".", "_expectFramebuffer", "(", "filename", ",", "x", ",", "y", ",", "maxrms", ")" ]

[ "Wait", "until", "a", "portion", "of", "the", "screen", "matches", "the", "target", "image" ]

[ "def", "setImageMode", "(", "self", ")", ":", "if", "self", ".", "_version_server", "==", "3.889", ":", "self", ".", "setPixelFormat", "(", "bpp", "=", "16", ",", "depth", "=", "16", ",", "bigendian", "=", "0", ",", "truecolor", "=", "1", ",", "redmax", "=", "31", ",", "greenmax", "=", "63", ",", "bluemax", "=", "31", ",", "redshift", "=", "11", ",", "greenshift", "=", "5", ",", "blueshift", "=", "0", ")", "self", ".", "image_mode", "=", "\"BGR;16\"", "elif", "(", "self", ".", "truecolor", "and", "(", "not", "self", ".", "bigendian", ")", "and", "self", ".", "depth", "==", "24", "and", "self", ".", "redmax", "==", "255", "and", "self", ".", "greenmax", "==", "255", "and", "self", ".", "bluemax", "==", "255", ")", ":", "pixel", "=", "[", "\"X\"", "]", "*", "self", ".", "bypp", "offsets", "=", "[", "offset", "//", "8", "for", "offset", "in", "(", "self", ".", "redshift", ",", "self", ".", "greenshift", ",", "self", ".", "blueshift", ")", "]", "for", "offset", ",", "color", "in", "zip", "(", "offsets", ",", "\"RGB\"", ")", ":", "pixel", "[", "offset", "]", "=", "color", "self", ".", "image_mode", "=", "\"\"", ".", "join", "(", "pixel", ")", "else", ":", "self", ".", "setPixelFormat", "(", ")" ]

[ "Extracts", "color", "ordering", "and", "24", "vs", ".", "32", "bpp", "info", "out", "of", "the", "pixel", "format", "information" ]

[ "def", "_handleDecodeHextileRAW", "(", "self", ",", "block", ",", "bg", ",", "color", ",", "x", ",", "y", ",", "width", ",", "height", ",", "tx", ",", "ty", ",", "tw", ",", "th", ")", ":", "self", ".", "updateRectangle", "(", "tx", ",", "ty", ",", "tw", ",", "th", ",", "block", ")", "self", ".", "_doNextHextileSubrect", "(", "bg", ",", "color", ",", "x", ",", "y", ",", "width", ",", "height", ",", "tx", ",", "ty", ")" ]

[ "the", "tile", "is", "in", "raw", "encoding" ]

[ "def", "_handleDecodeHextileSubrectsColoured", "(", "self", ",", "block", ",", "bg", ",", "color", ",", "subrects", ",", "x", ",", "y", ",", "width", ",", "height", ",", "tx", ",", "ty", ",", "tw", ",", "th", ")", ":", "sz", "=", "self", ".", "bypp", "+", "2", "pos", "=", "0", "end", "=", "len", "(", "block", ")", "while", "pos", "<", "end", ":", "pos2", "=", "pos", "+", "self", ".", "bypp", "color", "=", "block", "[", "pos", ":", "pos2", "]", "xy", "=", "ord", "(", "block", "[", "pos2", "]", ")", "wh", "=", "ord", "(", "block", "[", "pos2", "+", "1", "]", ")", "sx", "=", "xy", ">>", "4", "sy", "=", "xy", "&", "0xf", "sw", "=", "(", "wh", ">>", "4", ")", "+", "1", "sh", "=", "(", "wh", "&", "0xf", ")", "+", "1", "self", ".", "fillRectangle", "(", "tx", "+", "sx", ",", "ty", "+", "sy", ",", "sw", ",", "sh", ",", "color", ")", "pos", "+=", "sz", "self", ".", "_doNextHextileSubrect", "(", "bg", ",", "color", ",", "x", ",", "y", ",", "width", ",", "height", ",", "tx", ",", "ty", ")" ]

[ "subrects", "with", "their", "own", "color" ]

[ "def", "fillRectangle", "(", "self", ",", "x", ",", "y", ",", "width", ",", "height", ",", "color", ")", ":", "#fallback variant, use update recatngle", "#override with specialized function for better performance", "self", ".", "updateRectangle", "(", "x", ",", "y", ",", "width", ",", "height", ",", "color", "*", "width", "*", "height", ")" ]

[ "fill", "the", "area", "with", "the", "color", ".", "the", "color", "is", "a", "string", "in", "the", "pixel", "format", "set", "up", "earlier" ]

[ "def", "setKey", "(", "self", ",", "key", ")", ":", "newkey", "=", "[", "]", "for", "ki", "in", "range", "(", "len", "(", "key", ")", ")", ":", "bsrc", "=", "ord", "(", "key", "[", "ki", "]", ")", "btgt", "=", "0", "for", "i", "in", "range", "(", "8", ")", ":", "if", "bsrc", "&", "(", "1", "<<", "i", ")", ":", "btgt", "=", "btgt", "|", "(", "1", "<<", "7", "-", "i", ")", "newkey", ".", "append", "(", "chr", "(", "btgt", ")", ")", "super", "(", "RFBDes", ",", "self", ")", ".", "setKey", "(", "newkey", ")" ]

[ "RFB", "protocol", "for", "authentication", "requires", "client", "to", "encrypt", "challenge", "sent", "by", "server", "with", "password", "using", "DES", "method", ".", "However", "bits", "in", "each", "byte", "of", "the", "password", "are", "put", "in", "reverse", "order", "before", "using", "it", "as", "encryption", "key", "." ]

[ "def", "not_played", "(", "self", ")", "->", "int", ":", "return", "len", "(", "self", ".", "_data", "[", "MiniSeriesData", "]", ".", "progress", ")", "-", "len", "(", "self", ".", "progress", ")" ]

[ "The", "number", "of", "games", "in", "the", "player", "s", "promos", "that", "they", "haven", "t", "played", "yet", "." ]

[ "def", "_rgetattr", "(", "obj", ",", "key", ")", ":", "for", "k", "in", "key", ".", "split", "(", "\".\"", ")", ":", "obj", "=", "getattr", "(", "obj", ",", "k", ")", "return", "obj" ]

[ "Recursive", "getattr", "for", "handling", "dots", "in", "keys", "." ]

[ "def", "draw", "(", "self", ")", ":", "self", ".", "screen", ".", "clear", "(", ")", "x", ",", "y", "=", "1", ",", "1", "# start point", "max_y", ",", "max_x", "=", "self", ".", "screen", ".", "getmaxyx", "(", ")", "max_rows", "=", "max_y", "-", "y", "# the max rows we can draw", "lines", ",", "current_line", "=", "self", ".", "get_lines", "(", ")", "# calculate how many lines we should scroll, relative to the top", "scroll_top", "=", "getattr", "(", "self", ",", "'scroll_top'", ",", "0", ")", "if", "current_line", "<=", "scroll_top", ":", "scroll_top", "=", "0", "elif", "current_line", "-", "scroll_top", ">", "max_rows", ":", "scroll_top", "=", "current_line", "-", "max_rows", "self", ".", "scroll_top", "=", "scroll_top", "lines_to_draw", "=", "lines", "[", "scroll_top", ":", "scroll_top", "+", "max_rows", "]", "for", "line", "in", "lines_to_draw", ":", "if", "type", "(", "line", ")", "is", "tuple", ":", "self", ".", "screen", ".", "addnstr", "(", "y", ",", "x", ",", "line", "[", "0", "]", ",", "max_x", "-", "2", ",", "line", "[", "1", "]", ")", "else", ":", "self", ".", "screen", ".", "addnstr", "(", "y", ",", "x", ",", "line", ",", "max_x", "-", "2", ")", "y", "+=", "1", "self", ".", "screen", ".", "refresh", "(", ")" ]

[ "draw", "the", "curses", "ui", "on", "the", "screen", "handle", "scroll", "if", "needed" ]

[ "def", "get_file", "(", "file_id", ":", "str", ",", "download", ")", ":", "data", "=", "current_app", ".", "config", "[", "\"data\"", "]", "# type: DataStorage", "dao", "=", "data", ".", "get_files_dao", "(", ")", "file_fp", ",", "filename", ",", "upload_date", "=", "dao", ".", "get", "(", "file_id", ")", "if", "download", ":", "mime", "=", "mimetypes", ".", "guess_type", "(", "filename", ")", "[", "0", "]", "if", "mime", "is", "None", ":", "# unknown type", "mime", "=", "\"binary/octet-stream\"", "basename", "=", "os", ".", "path", ".", "basename", "(", "filename", ")", "return", "send_file", "(", "file_fp", ",", "mimetype", "=", "mime", ",", "attachment_filename", "=", "basename", ",", "as_attachment", "=", "True", ")", "else", ":", "rawdata", "=", "file_fp", ".", "read", "(", ")", "try", ":", "text", "=", "rawdata", ".", "decode", "(", "'utf-8'", ")", "except", "UnicodeDecodeError", ":", "# not decodable as utf-8", "text", "=", "_get_binary_info", "(", "rawdata", ")", "html", "=", "render_template", "(", "\"api/file_view.html\"", ",", "content", "=", "text", ")", "file_fp", ".", "close", "(", ")", "return", "Response", "(", "html", ")" ]

[ "Get", "a", "specific", "file", "from", "GridFS", "." ]

[ "def", "get_files_zip", "(", "run_id", ":", "int", ",", "filetype", ":", "_FileType", ")", ":", "data", "=", "current_app", ".", "config", "[", "\"data\"", "]", "dao_runs", "=", "data", ".", "get_run_dao", "(", ")", "dao_files", "=", "data", ".", "get_files_dao", "(", ")", "run", "=", "dao_runs", ".", "get", "(", "run_id", ")", "if", "filetype", "==", "_FileType", ".", "ARTIFACT", ":", "target_files", "=", "run", "[", "'artifacts'", "]", "elif", "filetype", "==", "_FileType", ".", "SOURCE", ":", "target_files", "=", "run", "[", "'experiment'", "]", "[", "'sources'", "]", "else", ":", "raise", "Exception", "(", "\"Unknown file type: %s\"", "%", "filetype", ")", "memory_file", "=", "io", ".", "BytesIO", "(", ")", "with", "zipfile", ".", "ZipFile", "(", "memory_file", ",", "'w'", ")", "as", "zf", ":", "for", "f", "in", "target_files", ":", "# source and artifact files use a different data structure", "file_id", "=", "f", "[", "'file_id'", "]", "if", "'file_id'", "in", "f", "else", "f", "[", "1", "]", "file", ",", "filename", ",", "upload_date", "=", "dao_files", ".", "get", "(", "file_id", ")", "data", "=", "zipfile", ".", "ZipInfo", "(", "filename", ",", "date_time", "=", "upload_date", ".", "timetuple", "(", ")", ")", "data", ".", "compress_type", "=", "zipfile", ".", "ZIP_DEFLATED", "zf", ".", "writestr", "(", "data", ",", "file", ".", "read", "(", ")", ")", "memory_file", ".", "seek", "(", "0", ")", "fn_suffix", "=", "_filetype_suffices", "[", "filetype", "]", "return", "send_file", "(", "memory_file", ",", "attachment_filename", "=", "'run{}_{}.zip'", ".", "format", "(", "run_id", ",", "fn_suffix", ")", ",", "as_attachment", "=", "True", ")" ]

[ "Send", "all", "artifacts", "or", "sources", "of", "a", "run", "as", "ZIP", "." ]

[ "def", "get", "(", "self", ",", "file_id", ":", "Union", "[", "str", ",", "bson", ".", "ObjectId", "]", ")", "->", "[", "typing", ".", "BinaryIO", ",", "str", ",", "datetime", ".", "datetime", "]", ":", "if", "isinstance", "(", "file_id", ",", "str", ")", ":", "file_id", "=", "bson", ".", "ObjectId", "(", "file_id", ")", "file", "=", "self", ".", "_fs", ".", "get", "(", "file_id", ")", "return", "file", ",", "file", ".", "filename", ",", "file", ".", "upload_date" ]

[ "Return", "the", "file", "identified", "by", "a", "file_id", "string", "." ]

[ "def", "find_record", "(", "self", ",", "collection_name", ",", "query", ")", ":", "cursor", "=", "self", ".", "_get_collection", "(", "collection_name", ")", ".", "find", "(", "query", ")", "for", "record", "in", "cursor", ":", "# Return the first record found.", "return", "record", "# Return None if nothing found.", "return", "None" ]

[ "Return", "the", "first", "record", "mathing", "the", "given", "Mongo", "query", "." ]

[ "def", "find_records", "(", "self", ",", "collection_name", ",", "query", "=", "{", "}", ",", "sort_by", "=", "None", ",", "sort_direction", "=", "None", ",", "start", "=", "0", ",", "limit", "=", "None", ")", ":", "cursor", "=", "self", ".", "_get_collection", "(", "collection_name", ")", ".", "find", "(", "query", ")", "if", "sort_by", "is", "not", "None", ":", "cursor", "=", "self", ".", "_apply_sort", "(", "cursor", ",", "sort_by", ",", "sort_direction", ")", "cursor", "=", "cursor", ".", "skip", "(", "start", ")", "if", "limit", "is", "not", "None", ":", "cursor", "=", "cursor", ".", "limit", "(", "limit", ")", "return", "MongoDbCursor", "(", "cursor", ")" ]

[ "Return", "a", "cursor", "of", "records", "from", "the", "given", "MongoDB", "collection", "." ]

[ "def", "_get_database", "(", "self", ",", "database_name", ")", ":", "try", ":", "return", "self", ".", "_client", "[", "database_name", "]", "except", "InvalidName", "as", "ex", ":", "raise", "DataSourceError", "(", "\"Cannot connect to database %s!\"", "%", "self", ".", "_database", ")", "from", "ex" ]

[ "Get", "PyMongo", "client", "pointing", "to", "the", "current", "database", "." ]

[ "def", "_get_collection", "(", "self", ",", "collection_name", ")", ":", "try", ":", "return", "self", ".", "_database", "[", "collection_name", "]", "except", "InvalidName", "as", "ex", ":", "raise", "DataSourceError", "(", "\"Cannot access MongoDB collection %s!\"", "%", "collection_name", ")", "from", "ex", "except", "Exception", "as", "ex", ":", "raise", "DataSourceError", "(", "\"Unexpected error when accessing MongoDB\"", "\"collection %s!\"", "%", "collection_name", ")", "from", "ex" ]

[ "Get", "PyMongo", "client", "pointing", "to", "the", "current", "DB", "and", "the", "given", "collection", "." ]

[ "def", "get", "(", "self", ",", "run_id", ")", ":", "id", "=", "self", ".", "_parse_id", "(", "run_id", ")", "run", "=", "self", ".", "generic_dao", ".", "find_record", "(", "self", ".", "collection_name", ",", "{", "\"_id\"", ":", "id", "}", ")", "if", "run", "is", "None", ":", "raise", "NotFoundError", "(", "\"Run %s not found.\"", "%", "run_id", ")", "return", "run" ]

[ "Get", "a", "single", "run", "from", "the", "database", "." ]

[ "def", "_apply_sort", "(", "cursor", ",", "sort_by", ",", "sort_direction", ")", ":", "if", "sort_direction", "is", "not", "None", "and", "sort_direction", ".", "lower", "(", ")", "==", "\"desc\"", ":", "sort", "=", "pymongo", ".", "DESCENDING", "else", ":", "sort", "=", "pymongo", ".", "ASCENDING", "return", "cursor", ".", "sort", "(", "sort_by", ",", "sort", ")" ]

[ "Apply", "sort", "to", "a", "cursor", "." ]

[ "def", "_to_mongo_query", "(", "query", ")", ":", "mongo_query", "=", "[", "]", "for", "clause", "in", "query", "[", "\"filters\"", "]", ":", "if", "clause", ".", "get", "(", "\"type\"", ")", "is", "None", ":", "mongo_clause", "=", "MongoRunDAO", ".", "_simple_clause_to_query", "(", "clause", ")", "else", ":", "# It's a subclause", "mongo_clause", "=", "MongoRunDAO", ".", "_to_mongo_query", "(", "clause", ")", "mongo_query", ".", "append", "(", "mongo_clause", ")", "if", "len", "(", "mongo_query", ")", "==", "0", ":", "return", "{", "}", "if", "query", "[", "\"type\"", "]", "==", "\"and\"", ":", "return", "{", "\"$and\"", ":", "mongo_query", "}", "elif", "query", "[", "\"type\"", "]", "==", "\"or\"", ":", "return", "{", "\"$or\"", ":", "mongo_query", "}", "else", ":", "raise", "ValueError", "(", "\"Unexpected query type %s\"", "%", "query", ".", "get", "(", "\"type\"", ")", ")" ]

[ "Convert", "the", "query", "received", "by", "the", "Sacred", "Web", "API", "to", "a", "MongoDB", "query", "." ]

[ "def", "_simple_clause_to_query", "(", "clause", ")", ":", "# It's a regular clause", "mongo_clause", "=", "{", "}", "value", "=", "clause", "[", "\"value\"", "]", "if", "clause", "[", "\"field\"", "]", "==", "\"status\"", "and", "clause", "[", "\"value\"", "]", "in", "[", "\"DEAD\"", ",", "\"RUNNING\"", "]", ":", "return", "MongoRunDAO", ".", "_status_filter_to_query", "(", "clause", ")", "if", "clause", "[", "\"operator\"", "]", "==", "\"==\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "value", "elif", "clause", "[", "\"operator\"", "]", "==", "\">\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$gt\"", ":", "value", "}", "elif", "clause", "[", "\"operator\"", "]", "==", "\">=\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$gte\"", ":", "value", "}", "elif", "clause", "[", "\"operator\"", "]", "==", "\"<\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$lt\"", ":", "value", "}", "elif", "clause", "[", "\"operator\"", "]", "==", "\"<=\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$lte\"", ":", "value", "}", "elif", "clause", "[", "\"operator\"", "]", "==", "\"!=\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$ne\"", ":", "value", "}", "elif", "clause", "[", "\"operator\"", "]", "==", "\"regex\"", ":", "mongo_clause", "[", "clause", "[", "\"field\"", "]", "]", "=", "{", "\"$regex\"", ":", "value", "}", "return", "mongo_clause" ]

[ "Convert", "a", "clause", "from", "the", "Sacred", "Web", "API", "format", "to", "the", "MongoDB", "format", "." ]

[ "def", "_status_filter_to_query", "(", "clause", ")", ":", "if", "clause", "[", "\"value\"", "]", "==", "\"RUNNING\"", ":", "mongo_clause", "=", "MongoRunDAO", ".", "RUNNING_NOT_DEAD_CLAUSE", "elif", "clause", "[", "\"value\"", "]", "==", "\"DEAD\"", ":", "mongo_clause", "=", "MongoRunDAO", ".", "RUNNING_DEAD_RUN_CLAUSE", "if", "clause", "[", "\"operator\"", "]", "==", "\"!=\"", ":", "mongo_clause", "=", "{", "\"$not\"", ":", "mongo_clause", "}", "return", "mongo_clause" ]

[ "Convert", "a", "clause", "querying", "for", "an", "experiment", "state", "RUNNING", "or", "DEAD", "." ]

[ "def", "delete", "(", "self", ",", "run_id", ")", ":", "return", "self", ".", "generic_dao", ".", "delete_record", "(", "self", ".", "collection_name", ",", "self", ".", "_parse_id", "(", "run_id", ")", ")" ]

[ "Delete", "run", "with", "the", "given", "id", "from", "the", "backend", "." ]

[ "def", "add_mongo_config", "(", "app", ",", "simple_connection_string", ",", "mongo_uri", ",", "collection_name", ")", ":", "if", "mongo_uri", "!=", "(", "None", ",", "None", ")", ":", "add_mongo_config_with_uri", "(", "app", ",", "mongo_uri", "[", "0", "]", ",", "mongo_uri", "[", "1", "]", ",", "collection_name", ")", "if", "simple_connection_string", "is", "not", "None", ":", "print", "(", "\"Ignoring the -m option. Overridden by \"", "\"a more specific option (-mu).\"", ",", "file", "=", "sys", ".", "stderr", ")", "else", ":", "# Use the default value 'sacred' when not specified", "if", "simple_connection_string", "is", "None", ":", "simple_connection_string", "=", "\"sacred\"", "add_mongo_config_simple", "(", "app", ",", "simple_connection_string", ",", "collection_name", ")" ]

[ "Configure", "the", "application", "to", "use", "MongoDB", "." ]