Дебаггинг плагина на C++ под Linux

[DarkDrawKill]

Как дебагать скомпилированную библиотеку на линукс через gdb
хоть оно скомпилированно с метками но когда падает просто пишет ошибку (не факт что библиотека падает с такой ошибкой) и всё

[Artem]

Не подскажу, GDB не использую

[DarkDrawKill]

чёто там разобрался

плагин падает в функции RegisterExtension но от чего я не понял (расширение создаётся без ошибок и все методы перегружены)
добавил архив с исходниками и сошкой (дебаг метки прилагаются)

[Artem]

плагин падает в функции RegisterExtension но от чего я не понял

у frame RefCount = 0, вот он и прибился раньше времени. Вам надо сделать ему ._addRef сразу после создания

[DarkDrawKill]

у frame RefCount = 0, вот он и прибился раньше времени. Вам надо сделать ему ._addRef сразу после создания

пробывал делать но тоже самое
я его потом убрал (в плагине wgmstream также сделано)

[Artem]

На сколько я вижу, вместо frame как IUnknown приходит что-то другое. Плеер падает при попытке вызвать _AddRef.
В VgmStream у меня там нет auto, плюс я собирал на VC++, может есть какие-то разночтения между компиляторами.

[DarkDrawKill]

В VgmStream у меня там нет auto

изначально у меня был как в vgmstream тоесть объект создавался и сразу передавался но изза ошибки я уже сделал отдельную переменную чтобы вызвать AddRef но не исправить ошибку не вышло

На сколько я вижу, вместо frame как IUnknown приходит что-то другое. Плеер падает при попытке вызвать _AddRef.

догадывался
думаю проблема возможно стоит либо в виртуальной таблице либо стек перевёрнут попробую потестить

гзв проблему так не решил но заметил что у IUnknown и IUnknownImpl разные атрибуты у функций (у IUnknown используется cdecl а IUnknownImpl реализует их уже stdcall)

[Artem]

calling convention для 64битного кода не применяется

[DarkDrawKill]

calling convention для 64битного кода не применяется

теперь понятно почему компилятор предупреждениями сыпит

решил пока отойти от расширений и хотя бы реализовать чтото простое

Code: [Select]

  IAIMPServiceVersionInfo* versionService = nullptr;
  auto success = core->QueryInterface(IID_IAIMPServiceVersionInfo, reinterpret_cast<void**>(&versionService));
  if (Failed(success))
    return E_FAIL;

  auto version = versionService->GetVersionID();
  versionService->Release();
  return S_OK;
ядро не возвращает сервис с ошибкой E_FAIL даже версию не узнать

[Artem]

Корень проблемы нашел: неправильное выравнивание в структурах.
Единственное, пока что-то не получается заставить GCC упаковывать структуры должным образом - ни через pragma, ни через атрибуты что-то не хочет.

Маркер правильной упаковки такой:

Code: [Select]

if (sizeof(GUID) != 16)
  return E_FAIL;


[DarkDrawKill]

Единственное, пока что-то не получается заставить GCC упаковывать структуры должным образом - ни через pragma, ни через атрибуты что-то не хочет.

проблема была не в выравнивании а в типах

Code: [Select]

(gdb) ptype IID_IUnknown
type = const struct GUID {
    DWORD Data1;
    WORD Data2;
    WORD Data3;
    BYTE Data4[8];
}
(gdb) print sizeof(DWORD)
$3 = 8
(gdb) print sizeof(WORD)
$4 = 2
(gdb) print sizeof(BYTE)
$5 = 1
DWORD занимал 8 байт вместо 4 изза typedef unsigned long DWORD; (в линукс x86 long и long long занимают 8 байт почемуто) поэтому структура увеличилась в размере до 20 байт а компилятор выравнял её до 24
я добавил #include <cstdint> и заменил на typedef uing32_t DWORD и ядро мне вернуло сервис

гзв или использовать unsigned int

[Artem]

Да, что-то я не проверил размерность базовых типов, хотя идея такая была...
Боюсь мне надо многое пройти по SDK и перепроверить. long и unsigned long у меня довольно много...

[Artem]

Вот подправленная версия

[DarkDrawKill]

да теперь всё точно работает но первая проблема так и не решилась :'(
я и регистры смотрел и втаблицу парсил всё в порядке должно работать но падает с ошибкой (даже перегруз _AddRef добавлял всё бестолку)

upd вопрос будет ли плеер падать если на регистрацию передать нулевой указатель?

[Artem]

если на регистрацию передать нулевой указатель?

да.

но первая проблема так и не решилась :'(

Вечером поисследую