Si j'ai bien compris, tu cherches à connecter ta Xbox à ton système son. Coté console via l’optique (d’où sort la lumière rouge, toslink), coté enceintes via un « coaxial » (RCA, comme les 3 fils [jaune, rouge, blanc] que tu connecte à ta TV ou à une péritel).
Si c’est bien ça, ce n’est pas possible. Il faut un intermédiaire qui « transforme » le signal lumineux du toslink en signal électrique du coax.
Le S/PDIF (Sony/Philips Digital InterFace) est un standard d’échange de données numérique, même si les données qui transitent dans le coax et dans la fibre optique sont de type S/PDIF, elles sont dans un cas sous forme lumineuse, dans l’autre sous forme électrique.

Tu as peut être une entrée optique sur ton système 5.1 Dell, si ce n’est pas le cas tu devras te « contenter » du son stéréo (en reliant les RCA rouge et blanc à un adaptateur RCA-Jack puis brancher la prise Jack à ton système son). Tu perds la séparation des 6 canaux, mais la plupart des systèmes son ont un interpréteur qui va tenter de déduire d’où provient le son et recréer une impression de 5.1 plus ou moins convaincante.
Je possède un Z5500 de Logitech qui récupère, entre autre, le son de ma Freebox et lorsque les programmes ne sont pas diffusés en DolbyDigital il recrée l’impression de 5.1 excessivement bien ! c’est mieux que rien ;-)

Cordialement.