Привет! Эта фигня с кодировщиком в ОБС обычно происходит из-за того, что в системе параллельно запущено другое приложение, которое монопольно забило сессию кодирования NVENC (например, твой браузер с включенным аппаратным ускорением, Discord или фоновая запись ShadowPlay). Видеокарта просто сбрасывает новый поток.
Лови инструкцию, как быстро все починить без перезагрузки ПК:
Выгрузи из диспетчера задач все мессенджеры и плееры. Зайди в Настройки ОБС -> Вывод. Переключи режим вывода на "Расширенный". В графе кодировщика вместо стандартного Nvidia NVENC H.264 принудительно выстави кодек x264 (процессорный), нажми "Применить", а затем верни обратно Nvidia NVENC H.264 (AV1 / HEVC если карта позволяет). Это действие сбросит зависший кэш сессий в драйвере видеокарты, и кнопка записи снова оживет.