ich benutze seit kurzem die Anti-Grain-Geometry-Bibliothek, um Graphen und Grafiken anti-aliast und in subpixel genauigkeit zu zeichnen. Im debug-Mode läuft auch alles super. Im Release-Mode werden bei manchen Operationen Farben falsch dargestellt, was, wie ich festgestellt habe, an einer Konvertierung von abenteuerlichen (d.h. welche ich nicht ganz verstehe) Typedefs und Templates liegt. Hier der Code zur Erläuterung:

template<class Rasterizer, class Scanline, 
             class BaseRenderer, class ColorT>
    void render_scanlines_aa_solid(Rasterizer& ras, Scanline& sl, 
                                   BaseRenderer& ren, const ColorT& color)
    {
        if(ras.rewind_scanlines())
        {
            // Explicitly convert "color" to the BaseRenderer color type.
            // For example, it can be called with color type "rgba", while
            // "rgba8" is needed. Otherwise it will be implicitly 
            // converted in the loop many times.
            //----------------------
            typename BaseRenderer::color_type ren_color(color);

ren_color wird im Release Mode falsch konvertiert, also falsch aus dem color-Parameter gebildet. Eigentlich sollten sowohl ColorT als auch BaseRenderer::color_type den Typ agg::rgba8 haben.

Naja, durch das Typen und Template-Chaos muss von Euch auch keiner durchsteigen, aber vielleicht kann mir jemand sagen, wie es zu einem Unterschied zwischen Debug und Release-Mode in diesem Fall kommen kann?

Vielen Dank für jeden Hinweis
Sören

[...] aber vielleicht kann mir jemand sagen, wie es zu einem Unterschied zwischen Debug und Release-Mode in diesem Fall kommen kann?

Präprozessor? #ifdef NDEBUG...

Grüße
Sören

Edit: Im fraglichen Code sind keine DEBUG-bezüglichen Präprozessor-Direktiven zu sehen...

zeig mal die typendefinitionen von rendering_buffer, pixelformat, renderer_base, rasterizer, ... etc

gruss

Das ganze geht übrigens nur schief, wenn ich Ellipsen zeichnen will, falls es was hilft:

void Vst2AggAdapter::renderEllipse(agg::ellipse ellipse)
{
	if(!drawBufferAdapter.getBuffer())return;
	agg::scanline_u8 sl;
	agg::conv_transform<agg::ellipse,agg::trans_affine> ePath(ellipse, trans_affine());
    scanlineRasterizer.add_path(ePath);
	agg::render_scanlines_aa_solid(scanlineRasterizer, sl, *aggRenderer.getBaseRenderer(), agg::rgba8(fillColor.red,fillColor.green,fillColor.blue,fillColor.alpha));
	scanlineRasterizer.reset();
}

Danke!
Sören

Moin,
Was meinst du mit: Zeig mal die Typdefinitionen...? Die sind doch im agg definiert, oder?
Die Parameter der Funktion sind:
Color:
agg::rgba8(fillColor.red,fillColor.green,fillColor.blue,fillColor.alpha)
Base Renderer:
renderer_base<pixfmt_bgr24> baseRenderer;
Scanline:
agg::scanline_u8 sl;
Rasterizer:
agg::rasterizer_scanline_aa<> scanlineRasterizer;

Das ganze geht übrigens nur schief, wenn ich Ellipsen zeichnen will, falls es was hilft:

void Vst2AggAdapter::renderEllipse(agg::ellipse ellipse)
{
	if(!drawBufferAdapter.getBuffer())return;
	agg::scanline_u8 sl;
	agg::conv_transform<agg::ellipse,agg::trans_affine> ePath(ellipse, trans_affine());
    scanlineRasterizer.add_path(ePath);
	agg::render_scanlines_aa_solid(scanlineRasterizer, sl, *aggRenderer.getBaseRenderer(), agg::rgba8(fillColor.red,fillColor.green,fillColor.blue,fillColor.alpha));
	scanlineRasterizer.reset();
}

Danke!
Sören

soweit ich das sehe verwendest du einen rgba8 typen auf einem bgr24 surface.
was dazu führt das du die farben falsch darstellst.

nur der lesbarkeit halber solltest du die agg typen in typedefinitions ausdrücken.
das verhindert natürlich das man sich mal beim typen irrt, und unerklärliche effekte hervorruft.

typedef agg::pixfmt_bgr24 TPixFmt; 
typedef agg::renderer_base<TPixFmt> TRendererBase;
typedef typename TPixFmt::color_type TColor; //bin mir nicht sicher ob das color_type wirklich so heisst (definiert ist der typ aufjedenfall).

...

void Vst2AggAdapter::renderEllipse(agg::ellipse ellipse)
{
...
	agg::render_scanlines_aa_solid(scanlineRasterizer, sl, *aggRenderer.getBaseRenderer(),
 TColor(fillColor.blue,fillColor.green,fillColor.red)); //hier TColor verwendet, welches global definiert ist
...
}

]

soweit ich das sehe verwendest du einen rgba8 typen auf einem bgr24 surface.
was dazu führt das du die farben falsch darstellst.

Hallo inpimp,
das ist leider falsch. Der Pixelformattyp ist zwar pixfmt_bgr24, der color_type von pixfmt_bgr24 ist aber rgba8. Außerdem wird ja auch versucht, die Farbtypen ins richtige Format zu konvertieren, was auch bei verschiedenen Typen funktionieren sollte, weil ich mir ja sonst auch nicht die Mühe machen müsste, erst die Farbe zu konvertieren. Und die Debug/Release-Unterschiede sind damit auch nicht geklärt. Und nochwas: Warum werden Linien in der korrekten Farbe dargestellt, Ellipsen nicht?
Was den Umgang mit Typedefinitionen angeht hast du aber vermutlich recht, das sollte ich mir angewöhnen.

Vielen Dank trotzdem...
Sören
Edit:
Ich hab, um die ganze Sache besser Debuggen zu können, in der Release-Konfguration StackFrames an und die Optimierung aus. => Da ist der Fehler natürlich weg. WASZUMTEUFEL???
Edit2:
Jetzt, wo ich auch die VertexSources verstanden haben, hab ich die conv_transform weggelassen. Und jetzt läuft es. Seltsam. Die falschen Farben kamen wohl durch falschen Ausgabem beim Debug. (Die angezeigten Werte waren falsch...)

Mir ist bewusst, dass das jetzt nicht wirkilch das ist, was du an Hilfe erwartest, aber für uns ist das ganze noch viel schwerer nachzuvollziehen, weil wir weder deinen gesamten Code, noch die Bibiliothek mit der du arbeitest kennen. (zumindest ich nicht).

Du kannst einfach froh sein, dass du den Fehler reproduzieren kannst. Ich hatte letztens Fehler, die nur sporadisch und mit Zufallszahlen erscheinen. Sprich ich durfte einfach mal alles mittracken und wenn der Fehler so nach ein paar Minuten erschienen ist musste ich den mit dem Debugger dazwischen gehen und die nächsten paar Schritte Stück für Stück durchdenken.. Und sobald ich ein Stück zu weit ging, durfte ich wieder ein paar Minuten warten, bis ich wieder beim Fehler war..

Du siehst, dass jeder solche Fehler hat und da sehr viel Zeit draufgeht bei der Suche. Das einzige was du brauchst ist Zeit und Geduld. (Auch wenn es ein paar Tage dauert).. Wenn du den Fehler einmal hast ist das umso mehr eine Erhebung.

aber wegen surfaces und farben konvertieren: bei agg 2.4 (die letzte version die ich verwendet habe) wurde nichts implizit konvertiert, man musste den richtigen surfacetype + colortype angeben.

um zweifel auszuräumen gibts ja zum glück den source

wenn du dir absolut sicher bist das du nichts falsch machst, und auch die neueste version davon hast,
solltest du das fehlverhalten dem agg author berichten

er leistet soweit ich weiss wunderbar support für agg.