ich habe gesehen, dass in einer Bibliothek eine Funktion nichts zurückgibt oder einen Fehlercode und eigentlich zwei Werte returnieren sollte, sagen wir die Standardabweichung und den Mittelwert zu einer Liste aus Werten.

Die Funktion sieht dann etwa so aus:
void meineFunktion( vector<double> liste, double sd, double mean){...}

Ich will nun eine Funktion schreiben, die dieses System auch nutzt, aber statt mit double-Werten mit vector<double>; auf was muss ich da achten?

Als Parameter gebe ich eine Referenz an, dann wird nur ein Zeiger hinein gereicht und wenn im Aufrufer-Scope dann die Listen verwendet werden, dann sollte das ja auch klappen, denn beim Zugriff über den Variablennamen, sind die Werte ja auch da oder?

Vielleicht suchst Du sowas?

pair<double,double> berechneStandardabweichungUndMittelwert(vector<double> const& daten)

oder (aber nicht so gern gesehen)

void berechneStandardabweichungUndMittelwert(vector<double> const& daten, double& standardabweichung, double& mittelwert)

void Funkziaun(WasAuchImmer daten, vector<double>& out_blah, vector<double>& out_blubb);

machen, und von uns wissen, ob das so OK geht.

Ja, geht OK

auf was muss ich da achten?

Auf nix spezielles.

In dem oben skizzierten Fall werden "out_blah" und "out_blubb" sozusagen zu Alias-Namen für das, was der Aufrufer übergibt. Normale C++ Referenzen halt. D.h. das was du innerhalb der Funktion in diese "Output-Parameter" reintust, das steht auch nach dem Aufruf noch drin. Und der Aufrufer kann es dann verwenden.

Umgekehrt genau so: bei Beginn deiner Funktion steht auch das drin, was vor dem Aufruf drinstand.

D.h. du solltest entweder
a) vom Aufrufer verlangen dass die übergebenen Vektoren vorher leer sein müssen (und das idealerweise noch mit assert() absichern) oder
b) die übergebenen Vektoren in der Funktion erstmal selbst leer machen oder
c) irgend ein anderes Verhalten für den Fall "nicht-leere Vektoren übergeben" definieren.

struct DataType/* oder class, was auch immer */
{
   std::vector<double> list1;
   std::vector<double> list2;
}

DataType foo()
{
   //blabla
}

Natürlich mit entsprechend besserer Namensgebung.

Wenn die Performance wurscht ist, dann ist die pair/tuple/struct Variante wahrscheinlich "besser", weil "schöner".
Wenn die Performance kritisch ist, können Output-Parameter dennoch Sinn machen.

Auch mit Rvalue-Referenzen und Move-Magick bleibt noch, dass in der Funktion keine Vektoren zur Verfügung stehen, denen man den mittels move() den Speicher klauen könnte, und damit bei zwei Vektoren zumindest 2x "new[]" fällig ist (+ 2x "delete[]" später).

Mit Output-Parametern kann der Aufrufer dagegen die Vektoren "recyclen", wobei diese den Speicher ja nicht freigeben.