Коллеги из Казани делают хакатон по обработке текстов: http://hackday2014.textocat.com/

Рекомендую поучаствовать.

Напоминаю, в ближайшую среду (ночь со вторника на среду) первый дедлайн. Список студентов, не приступивших к сдаче практикума будет передан в учебную часть.

По многочисленным просьбам, на этой неделе количество попыток увеличено до 15.

В системе тестирования 1 октября произойдет 2 изменения:

1. Изменился вход для функции train. Теперь в качестве training_corpus будет передаваться тренировочный корпус в виде, как он был в скачиваемом файле:

   training_corpus = json.load(open(path_to_training_corpus))
   

   Необходимо преобразовать корпус во входной формат классификатора самостоятельно. Это даст возможность фильтровать входные данные произвольным образом. Раньше при преобразовании оставались только те значения, которые были одинаково размечены всеми людьми. То есть, если три человека размечало текст и характеристику "Цены" отметили как позитивную только двое, то она не попадала в корпус.

2. Использовалась F1-мера без параметров. Теперь будет использоваться F1-мера с параметром " average='micro' ". См. документацию scikit-learn.

Внимание! Следующая лекция состоится 1 октября. 17 и 24 сентября лекций не будет!

Немного обновил правила. Изменился формат входных и выходных данных решения.

Выкладываю 5 решений весеннего практикума 2014 года, показавшие лучшие результаты по мере достоверности (accuracy):

Также выкладываю baseline 2, который в итоге показал 0.7062146894

Все решения можно скачать по ссылке: solutions.zip

Итак, подходит к концу практикум. Студенты, набравшие 9 и более баллов, получают оценку "отлично".  Все, кто набрал 5-8 баллов получают оценку "хорошо". За 2-4 бала будет выставляться оценка "удовлетворительно".

При желании в течении недели можно улучшить свою оценку, добрав недостающие баллы за счет дополнительной разметки сообщений (1 балл за 100 твитов, соблюдая начальный баланс (50/25/25)). Этим способом  можно изменить только "хорошо" на "отлично" и "удовлетворительно" на "хорошо".

Оценки будут выставляться в среду 14 мая на 1 паре в аудитории 523.

Итоговые результаты:

С 20.00 пятницы 14 марта до 10.30 понедельника 17 марта будут отключены все серверы в связи с техническими работами в ИСП РАН. Задания в это время сдавать не получится.

По просьбам присутствовавших сегодня на семинаре, выкладываю шаблон класса SentimentAnalyzer.py. В последней строчке написано как из этого шаблона получить Baseline_1.

class SentimentAnalyzer:
    #constructor (optional)
    def __init__(self):
        None

    #trainer of classifier (mandatory)
    def train(self, training_corpus):
        # train your classifier here
        self.classifier = None

    #returns sentiment score of input text (mandatory)
    def getClasses(self, texts):
        #Write your code instead of next line
        return ['neutral' for iter in texts] # Baseline 1

Внимание, чтобы была возможность самостоятельно фильтровать данные, на вход функции train() подается тренировочный корпус в формате json, полученный примерно так:

training_corpus = json.load(open(path_to_training_corpus))