Научно-технический вебинар "Эффективные Трансформеры для длинных последовательностей"
Когда: 14 сентября 2021, 17:00 МСК (GMT+3)
Где: Zoom
Спикер: Валерий Лихошерстов, Кембриджский университет, Кембридж, Великобритания; рисерч Google
Тема: "Эффективные Трансформеры для длинных последовательностей"
Спикер о работе: Последние годы Трансформеры показывают очень хорошие результаты в различных задачах, включая анализ естественных языков, компьютерное зрение, моделирование протеинов, и т д. К сожалению, сложность вычисления Трансформеров растет квадратично (O(L^2)) с ростом длины последовательности L. В данной презентации, мы обсудим зоопарк недавно предложенных методов для уменьшения вычислительной сложности Трансформеров по времени и памяти вплоть до O(L) и даже O(1).
Организаторы: IT-компания НТР и Высшая IT-школа Томского Государственного Университета
НТР совместно с HITs ТГУ организует открытые научно-технические вебинары о нейронных сетях. С докладами выступают спикеры со всего мира. Вебинары проводятся на русском языке (редко на английском), по вторникам.
Материалы прошедших и информация о предстоящих событиях на странице: https://www.ntr.ai/webinar.